7 月 31 日消息，據(jù)外媒 Tech Xplore 報(bào)道，康奈爾大學(xué)的研究人員發(fā)現(xiàn)惡意代碼很容易隱藏在 AI 的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中，并且人們難以察覺。
研究團(tuán)隊(duì)嘗試將惡意代碼嵌入到一個(gè)名為“AlexNet”AI 的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中，隨后他們發(fā)現(xiàn)不僅常見的殺毒軟件無法發(fā)現(xiàn)惡意代碼件的存在，而且 AI 被惡意代碼感染之后，運(yùn)行狀態(tài)也不會(huì)發(fā)生變化，人們也更難以察覺系統(tǒng)中存在惡意代碼。因此，如果不法分子利用這樣的方式入侵 AI 中，將會(huì)很容易盜竊系統(tǒng)里的重要數(shù)據(jù)。
研究人員表示，在此次實(shí)驗(yàn)中，他們將惡意代碼添加到神經(jīng)網(wǎng)絡(luò)系統(tǒng)中最容易入侵的注入層（injection）。此外，他們選擇的是已經(jīng)訓(xùn)練過的 AI 系統(tǒng)，而不法分子們可能更愿意選擇一些從未經(jīng)過訓(xùn)練的 AI 神經(jīng)網(wǎng)絡(luò)系統(tǒng)，這樣入侵起來會(huì)更加方便。
研究人員指出，如果簡單地向 AI 添加一段惡意代碼，AI 模型并不會(huì)受到傷害，因?yàn)闊o論誰將代碼插入到 AI 模型中，都需要找到該代碼的執(zhí)行方式。但如果將惡意代碼入侵到 AI 的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中，惡意代碼會(huì)模仿神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)運(yùn)作，悄無聲息地“融入”到 AI 的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中。
他們表示，現(xiàn)在人們注意到黑客可以將惡意代碼隱藏在 AI 的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中后，可以設(shè)計(jì)出更加全面的防病毒軟件，以免用戶損失。
結(jié)語：AI 時(shí)代，技術(shù)與安全應(yīng)并行
康奈爾大學(xué)的研究人員發(fā)現(xiàn)，惡意代碼入侵 AI 的神經(jīng)網(wǎng)絡(luò)系統(tǒng)后，能在無聲無息中對(duì)用戶的數(shù)據(jù)安全以及財(cái)產(chǎn)造成較大的威脅。
隨著 AI 技術(shù)快速發(fā)展，AI 已經(jīng)逐漸滲入日常生活的各個(gè)角落中，但我們也需要關(guān)注 AI 技術(shù)背后的安全漏洞，因?yàn)檫@些安全漏洞可能會(huì)成為威脅到國家安全的“武器”。近期，俄羅斯黑客組織 REvil 在 9 個(gè)月內(nèi)入侵了近 180 家公司，300 家組織，甚至讓美國部分能源公司全面癱瘓。
因此，面對(duì) AI 時(shí)代的快速發(fā)展，AI 時(shí)代的安全是不可避免的重要話題，技術(shù)應(yīng)與安全并行。
來源：Tech Xplore
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。