您的位置:首頁(yè) >財經(jīng) >

克服“大模型幻覺(jué)” 知識圖譜融合大模型應用平臺發(fā)布

2023-09-08 22:48:50    來(lái)源:揚子晚報

中新網(wǎng)北京9月8日電 (楊宏偉)8日,中國工程院院士、清華大學(xué)計算機系教授、海致科技首席科學(xué)家鄭緯民在北京演示發(fā)布了由海致科技與高性能圖計算院士工作站共同開(kāi)發(fā)的“Atlas LLM知識圖譜與大模型融合應用平臺”。

該平臺面向廣大B端用戶(hù),運用知識圖譜這項人工智能基礎技術(shù),幫助大模型在企業(yè)級和工業(yè)界應用中克服“幻覺(jué)”,實(shí)現基于行業(yè)與場(chǎng)景的精準推演。該產(chǎn)品目前已經(jīng)在能源、金融、政務(wù)等領(lǐng)域的場(chǎng)景中進(jìn)行部署和應用,力圖打通通用人工智能進(jìn)入B端和工業(yè)應用的“最后一公里”。

大語(yǔ)言模型(LLM)所表現出的跨領(lǐng)域通用性、快速自主學(xué)習和自我改進(jìn)的能力無(wú)疑是革命性的。但由于它的基本工作方式是分析文本中的詞匯、句法結構、語(yǔ)義信息等,并捕捉它們之間的模式和概率分布,因此,它更傾向于基于統計規律生成回答,而非進(jìn)行深入的邏輯推理或形成高級的認知能力。

另外,它在生成文本時(shí)可能會(huì )受限于訓練數據中存在的偏見(jiàn)和誤導性信息,在某些情況下可能會(huì )產(chǎn)生不準確或不合理的回答。對于這種基于技術(shù)特征產(chǎn)生的瑕疵,人們將其形象比喻為“大模型幻覺(jué)”,這也是以大模型為代表的通用人工智能進(jìn)入嚴謹B端應用的最大挑戰。

知識圖譜是另一種被廣泛應用的人工智能基礎技術(shù),通過(guò)對語(yǔ)義網(wǎng)絡(luò )進(jìn)行建模,以結構化的形式描述客觀(guān)世界中實(shí)體及關(guān)系,被廣泛應用于知識推理?;谥R圖譜的知識推理在離散符號表示的基礎上,通過(guò)推理路徑、邏輯規則等輔助手段,對推理過(guò)程進(jìn)行解釋?zhuān)瑸閷?shí)現“可解釋人工智能”提供了重要途徑。

“當大模型從C端走向B端,它就像從玩具走向工具,而工具的精確性至關(guān)重要?!编嵕暶裨诮邮苡浾卟稍L(fǎng)時(shí)表示,“知識圖譜作為更加類(lèi)腦的人工智能工具,其精確的知識推導能力就可以跟大模型構成非常好的相互補充,反過(guò)來(lái),大模型的快速學(xué)習能力,對于知識圖譜的知識生成也產(chǎn)生了很好的促進(jìn)。"

海致科技CTO楊娟博士介紹說(shuō),海致 Atlas LLM大模型融合應用平臺有三個(gè)非常獨特的定位:一是在全過(guò)程實(shí)現了知識圖譜與大模型的交互,有效克服大模型幻覺(jué)對工業(yè)應用的干擾;二是更好管理了客戶(hù)已有的豐富的數據資產(chǎn),將其與大模型成果統一整理,避免重復造輪子,使得計算更高效,應用更精確;三是能夠幫助客戶(hù)切換和靈活應用不同的開(kāi)源大模型,實(shí)現更高性?xún)r(jià)比的場(chǎng)景應用。

海致科技高級副總裁瞿珂介紹稱(chēng),通過(guò)大模型極大地提高知識抽取和融合的過(guò)程效率,一方面,通過(guò)大模型對故障設備及關(guān)聯(lián)量測值的快速提取,幫助知識圖譜完成特征圖的快速構建,提高效率;另一方面,也可以通過(guò)業(yè)務(wù)專(zhuān)家對大模型自動(dòng)生成的特征圖進(jìn)行更為高效的校驗,固化和校準故障特征的經(jīng)驗知識,確保質(zhì)量?!?/p>

關(guān)鍵詞:

相關(guān)閱讀