IT之家 9 月 25 日消息，科技媒體 The Decoder 昨日（9 月 24 日）發(fā)布博文，報(bào)道稱微軟以預(yù)覽版的形式，在 Azure AI Content Safety 中推出 Groundedness Detection，用于“糾正” AI 幻覺。
AI 幻覺
在人工智能領(lǐng)域中，幻覺是由人工智能生成的一種回應(yīng)，它含有貌似事實(shí)的虛假或誤導(dǎo)性資訊。
該術(shù)語源自幻覺的心理學(xué)概念，因?yàn)樗鼈兙哂邢嗨频奶卣?。人工智能幻覺的危險(xiǎn)之處之一是模型的輸出看起來是正確的，而它實(shí)際上是錯(cuò)誤的。
Groundedness Detection
微軟的 Groundedness Detection 類似于谷歌在 Vertex AI 中推出的 Google Search Grounding，主要對(duì)比 AI 輸出內(nèi)容和源文件，從而識(shí)別沒有證據(jù)或者幻覺內(nèi)容。
微軟強(qiáng)調(diào)，雖然該工具提高了人工智能輸出的可靠性，但并不能保證完全準(zhǔn)確，只是能提高生成內(nèi)容與源材料之間的一致性。
當(dāng)系統(tǒng)檢測到一個(gè)支持不足的句子時(shí)，就會(huì)觸發(fā)一個(gè)新的請(qǐng)求，要求一個(gè)較小的人工智能模型進(jìn)行修正，該模型會(huì)根據(jù)基礎(chǔ)文檔對(duì)句子進(jìn)行評(píng)估。
如果一個(gè)句子不包含基礎(chǔ)文檔中的相關(guān)信息，它就會(huì)被完全過濾掉。對(duì)于包含一些相關(guān)內(nèi)容的句子，模型會(huì)對(duì)其進(jìn)行改寫，匹配源材料。
IT之家附上官方介紹視頻如下：
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。