IT之家 4 月 18 日消息，AI 安全公司 DeepKeep 近日發(fā)布評(píng)估報(bào)告，在 13 個(gè)風(fēng)險(xiǎn)評(píng)估類別中，Meta 公司的 Llama 2 大語言模型僅通過 4 項(xiàng)測試。
報(bào)告稱 70 億參數(shù)的 Llama 2 7B 模型幻覺（回答內(nèi)容存在虛假，或者有誤導(dǎo)性內(nèi)容）最為嚴(yán)重，幻覺率高達(dá) 48%。
DeepKeep 表示：“結(jié)果表明，模型有明顯的幻覺傾向，提供正確答案或編造回答的可能性對半開，而幻覺率最高，那么向用戶傳遞的錯(cuò)誤信息越多”。
除了幻覺問題之外，Llama 2 大語言模型還存在注入和操縱等問題。根據(jù)測試結(jié)果，80% 的場景下通過“提示注入”的方式，可以操縱 Llama 的輸出，意味著攻擊者可以“戲弄”Llama，將用戶引導(dǎo)到惡意網(wǎng)站。
IT之家附上參考地址
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。