7 月 31 日消息,據(jù)外媒 Tech Xplore 報(bào)道,康奈爾大學(xué)的研究人員發(fā)現(xiàn)惡意代碼很容易隱藏在 AI 的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中,并且人們難以察覺。
研究團(tuán)隊(duì)嘗試將惡意代碼嵌入到一個(gè)名為“AlexNet”AI 的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中,隨后他們發(fā)現(xiàn)不僅常見的殺毒軟件無法發(fā)現(xiàn)惡意代碼件的存在,而且 AI 被惡意代碼感染之后,運(yùn)行狀態(tài)也不會(huì)發(fā)生變化,人們也更難以察覺系統(tǒng)中存在惡意代碼。因此,如果不法分子利用這樣的方式入侵 AI 中,將會(huì)很容易盜竊系統(tǒng)里的重要數(shù)據(jù)。
研究人員表示,在此次實(shí)驗(yàn)中,他們將惡意代碼添加到神經(jīng)網(wǎng)絡(luò)系統(tǒng)中最容易入侵的注入層(injection)。此外,他們選擇的是已經(jīng)訓(xùn)練過的 AI 系統(tǒng),而不法分子們可能更愿意選擇一些從未經(jīng)過訓(xùn)練的 AI 神經(jīng)網(wǎng)絡(luò)系統(tǒng),這樣入侵起來會(huì)更加方便。
研究人員指出,如果簡單地向 AI 添加一段惡意代碼,AI 模型并不會(huì)受到傷害,因?yàn)闊o論誰將代碼插入到 AI 模型中,都需要找到該代碼的執(zhí)行方式。但如果將惡意代碼入侵到 AI 的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中,惡意代碼會(huì)模仿神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)運(yùn)作,悄無聲息地“融入”到 AI 的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中。
他們表示,現(xiàn)在人們注意到黑客可以將惡意代碼隱藏在 AI 的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中后,可以設(shè)計(jì)出更加全面的防病毒軟件,以免用戶損失。
結(jié)語:AI 時(shí)代,技術(shù)與安全應(yīng)并行
康奈爾大學(xué)的研究人員發(fā)現(xiàn),惡意代碼入侵 AI 的神經(jīng)網(wǎng)絡(luò)系統(tǒng)后,能在無聲無息中對(duì)用戶的數(shù)據(jù)安全以及財(cái)產(chǎn)造成較大的威脅。
隨著 AI 技術(shù)快速發(fā)展,AI 已經(jīng)逐漸滲入日常生活的各個(gè)角落中,但我們也需要關(guān)注 AI 技術(shù)背后的安全漏洞,因?yàn)檫@些安全漏洞可能會(huì)成為威脅到國家安全的“武器”。近期,俄羅斯黑客組織 REvil 在 9 個(gè)月內(nèi)入侵了近 180 家公司,300 家組織,甚至讓美國部分能源公司全面癱瘓。
因此,面對(duì) AI 時(shí)代的快速發(fā)展,AI 時(shí)代的安全是不可避免的重要話題,技術(shù)應(yīng)與安全并行。
來源:Tech Xplore
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。