IT之家 9 月 25 日消息，科技媒體 The Decoder 昨日（9 月 24 日）發(fā)布博文，報道稱微軟以預(yù)覽版的形式，在 Azure AI Content Safety 中推出 Groundedness Detection，用于“糾正” AI 幻覺。
AI 幻覺
在人工智能領(lǐng)域中，幻覺是由人工智能生成的一種回應(yīng)，它含有貌似事實的虛假或誤導(dǎo)性資訊。
該術(shù)語源自幻覺的心理學(xué)概念，因為它們具有相似的特征。人工智能幻覺的危險之處之一是模型的輸出看起來是正確的，而它實際上是錯誤的。
Groundedness Detection
微軟的 Groundedness Detection 類似于谷歌在 Vertex AI 中推出的 Google Search Grounding，主要對比 AI 輸出內(nèi)容和源文件，從而識別沒有證據(jù)或者幻覺內(nèi)容。
微軟強(qiáng)調(diào)，雖然該工具提高了人工智能輸出的可靠性，但并不能保證完全準(zhǔn)確，只是能提高生成內(nèi)容與源材料之間的一致性。
當(dāng)系統(tǒng)檢測到一個支持不足的句子時，就會觸發(fā)一個新的請求，要求一個較小的人工智能模型進(jìn)行修正，該模型會根據(jù)基礎(chǔ)文檔對句子進(jìn)行評估。
如果一個句子不包含基礎(chǔ)文檔中的相關(guān)信息，它就會被完全過濾掉。對于包含一些相關(guān)內(nèi)容的句子，模型會對其進(jìn)行改寫，匹配源材料。
IT之家附上官方介紹視頻如下：
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。