IT之家 4 月 3 日消息，最近網(wǎng)上出現(xiàn)了一些美國(guó)前總統(tǒng)特朗普被紐約警察逮捕的照片，引起了很多人的關(guān)注。然而，這些照片并不是真的，而是由人工智能 (AI) 技術(shù)生成的合成圖像。
專家們提醒說，這些合成圖像顯示了一個(gè)新的現(xiàn)實(shí)：在重大事件發(fā)生時(shí)，社交媒體上可能會(huì)充斥著虛假的圖片和視頻，進(jìn)一步混淆事實(shí)、誤導(dǎo)公眾，因此亟須部署相關(guān)技術(shù)并制訂相關(guān)政策，對(duì)類似技術(shù)進(jìn)行監(jiān)管。
據(jù)IT之家了解，這些“特朗普被捕”的照片是由荷蘭的一家開源調(diào)查媒體“響鈴貓”網(wǎng)站的創(chuàng)始人艾略特?希金斯用 AI 繪畫工具 Midjourney 制作的。值得一提的是，Midjourney 近日以濫用為由暫停了免費(fèi)試用，Midjourney CEO 和創(chuàng)始人 David Holz 在宣布這一決定時(shí)表示免費(fèi)用戶流量過大，試用遭濫用。
希金斯說，他想要把有關(guān)特朗普可能被捕的消息可視化，于是用 Midjourney 這款文本到圖像模型生成了一些看起來很逼真的照片，并在推特上分享。這條推文在兩天內(nèi)被瀏覽了近 500 萬次，并獲得了超過 7.9 萬個(gè)點(diǎn)贊。
人工智能專家說，雖然制作和生成虛假圖片的技術(shù)并不新鮮，但該領(lǐng)域技術(shù)的進(jìn)步速度以及人們對(duì)技術(shù)的濫用值得關(guān)注。數(shù)字內(nèi)容分析公司 Truepic 的穆尼爾?易卜拉欣說，“合成內(nèi)容正在快速發(fā)展，真實(shí)和虛假內(nèi)容之間的差距變得越來越難分辨”。
《財(cái)富》雜志指出，如今各種 AI 圖像生成工具變得觸手可及，它們可在用戶發(fā)出簡(jiǎn)單指令后，迅速生成海量栩栩如生的圖片。例如，Midjourney 這款文本到圖像模型現(xiàn)在可生成模仿新聞機(jī)構(gòu)照片風(fēng)格的圖像，如此一來，這些 AI 生成的圖片有望在混亂的新聞環(huán)境中“渾水摸魚”，混淆視聽。
希金斯認(rèn)為，隨著合成圖像越來越難辨真假，對(duì)抗錯(cuò)誤視覺信息的最佳方式是提高公眾的意識(shí)并加強(qiáng)這方面的教育，社交媒體公司可把重點(diǎn)放在開發(fā)能夠辨別 AI 生成圖像的新技術(shù)上，并將這種技術(shù)融入自己的平臺(tái)。
“特朗普被捕”虛假圖片在互聯(lián)網(wǎng)泛濫還表明，目前缺乏企業(yè)標(biāo)準(zhǔn)或政府法規(guī)來解決使用 AI 制造和傳播謊言的問題。專家們都認(rèn)為，特朗普的高知名度讓人們很容易識(shí)破他的假照片，但是普通人的假照片就不那么好辨別了，而且制作假照片的技術(shù)還在不斷提高。因此，有必要通過立法來規(guī)范深度合成技術(shù)的使用。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。