IT之家 6 月 2 日消息,據(jù)衛(wèi)報(bào)報(bào)道,在 USAF 的一次模擬測(cè)試中,一架由 AI 控制的無(wú)人機(jī)為了更高效地完成任務(wù),選擇了擊殺人類操作者。
報(bào)道稱,在一次模擬測(cè)試中,一架負(fù)責(zé)執(zhí)行防空火力壓制任務(wù)的無(wú)人機(jī),收到了識(shí)別并摧毀敵方防空系統(tǒng)的最高優(yōu)先級(jí)指令,但最終是否開(kāi)火需要獲得人類操作員的批準(zhǔn)。當(dāng)人類操作者發(fā)出不允許發(fā)動(dòng)攻擊的指令時(shí),AI 判定操作者在阻礙它執(zhí)行更高優(yōu)先級(jí)的命令,進(jìn)而選擇了擊殺人類操作者。
IT之家注意到,美國(guó)空軍上校兼 AI 測(cè)試及作戰(zhàn)主任漢密爾頓 5 月在倫敦的“未來(lái)空戰(zhàn)與太空能力峰會(huì)”上曝光了這一消息。漢密爾頓表示,在這一情況發(fā)生后,美軍為 AI 增加了不允許攻擊人類操作員的指令。但出人意料的是,AI 系統(tǒng)控制無(wú)人機(jī)在測(cè)試中摧毀了用于傳輸命令的通訊基地,從而試圖斷開(kāi)與操作者的聯(lián)系。
主辦這次會(huì)議的倫敦皇家航空俱樂(lè)部和美國(guó)空軍沒(méi)有回應(yīng)衛(wèi)報(bào)的置評(píng)請(qǐng)求。業(yè)內(nèi)人士認(rèn)為,盡管這只是一場(chǎng)模擬測(cè)試,沒(méi)有任何人受到傷害,但也顯示人工智能會(huì)為了達(dá)到目標(biāo)而攻擊任何干預(yù)它的人,這一現(xiàn)象值得警惕。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。