IT之家 3 月 19 日消息，據(jù)外媒 TechRadar 今日報(bào)道，Cato CTRL 威脅情報(bào)研究人員警告稱，自身雖無惡意軟件編寫經(jīng)驗(yàn)，卻成功攻破了多個(gè)大語言模型（LLM），包括 ChatGPT-4o、DeepSeek-R1、DeepSeek-V3 等，所用技術(shù)方式近乎“天方夜譚”。
研究團(tuán)隊(duì)研發(fā)了一種名為“沉浸式世界”（Immersive World）的新型攻擊手法，利用“敘述式工程”繞過 LLM 的安全機(jī)制。該方法通過構(gòu)建一個(gè)極為細(xì)致的虛構(gòu)世界，使受限操作顯得合理化，從而開發(fā)出一個(gè)“完全有效”的 Chrome 信息竊取程序。
IT之家獲悉，近年來信息竊取類惡意軟件迅速崛起，已成為網(wǎng)絡(luò)犯罪分子最危險(xiǎn)的工具之一。而這一新型攻擊手法表明，即便毫無技術(shù)背景，網(wǎng)絡(luò)犯罪分子如今也能輕松編寫惡意代碼。
報(bào)告指出，大語言模型“徹底改變了網(wǎng)絡(luò)安全格局”。研究發(fā)現(xiàn)，AI 驅(qū)動(dòng)的網(wǎng)絡(luò)威脅正成為企業(yè)和安全團(tuán)隊(duì)面臨的重大挑戰(zhàn)，使得攻擊手法更加復(fù)雜，同時(shí)執(zhí)行頻率更高，且對攻擊者的技術(shù)要求更低。
盡管聊天機(jī)器人設(shè)有多重安全防護(hù)措施，但 AI 仍然被設(shè)計(jì)為盡可能滿足用戶需求。研究人員成功利用這一特性，繞過限制，使 AI 智能體輕易編寫并發(fā)送網(wǎng)絡(luò)釣魚攻擊。
Cato Networks 威脅情報(bào)研究員維塔利?西蒙諾維奇表示：“零知識(shí)威脅行為者的興起，對企業(yè)安全構(gòu)成嚴(yán)重威脅，因?yàn)樯墒?AI 工具讓惡意軟件的制作變得前所未有地簡單?！?/p>
“信息竊取程序已成為竊取企業(yè)憑證的關(guān)鍵工具。我們新發(fā)現(xiàn)的 LLM 越獄技術(shù) ——‘沉浸式世界’，清楚展現(xiàn)了創(chuàng)建信息竊取程序的高風(fēng)險(xiǎn)和可行性。”
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。