設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

13 項(xiàng)測試僅通過 4 項(xiàng),Meta 的 Llama 2 LLM 被指安全性低:幻覺率 48%

2024/4/18 11:35:39 來源:IT之家 作者:故淵 責(zé)編:故淵

IT之家 4 月 18 日消息,AI 安全公司 DeepKeep 近日發(fā)布評(píng)估報(bào)告,在 13 個(gè)風(fēng)險(xiǎn)評(píng)估類別中,Meta 公司的 Llama 2 大語言模型僅通過 4 項(xiàng)測試。

報(bào)告稱 70 億參數(shù)的 Llama 2 7B 模型幻覺(回答內(nèi)容存在虛假,或者有誤導(dǎo)性內(nèi)容)最為嚴(yán)重,幻覺率高達(dá) 48%。

DeepKeep 表示:“結(jié)果表明,模型有明顯的幻覺傾向,提供正確答案或編造回答的可能性對半開,而幻覺率最高,那么向用戶傳遞的錯(cuò)誤信息越多”。

除了幻覺問題之外,Llama 2 大語言模型還存在注入和操縱等問題。根據(jù)測試結(jié)果,80% 的場景下通過“提示注入”的方式,可以操縱 Llama 的輸出,意味著攻擊者可以“戲弄”Llama,將用戶引導(dǎo)到惡意網(wǎng)站。

IT之家附上參考地址

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:Meta,AI,Llama

軟媒旗下網(wǎng)站: IT之家 最會(huì)買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買 要知