Deepfake 最新受害者出現(xiàn)了 —— 全球頂流，霉霉女士（Taylor Swift）。
近乎是在一夜之間，X、Facebook 等社交平臺(tái)上便充斥了大量虛假“不雅照片”，而且瀏覽量已經(jīng)高達(dá)上千萬！
盡管最早傳播這些圖片的賬號(hào)已被封禁，但照片的流傳仍未徹底阻斷。
霉霉本人也已經(jīng)得知此事，對(duì)此表示相當(dāng)憤怒，粉絲們也自發(fā)組織了保護(hù)行動(dòng)。
在 X 上，有網(wǎng)友直接 @馬斯克，喊話說這事老馬你得出來管管了。
虛假照片病毒式傳播
事情要從霉霉和美國(guó) NFL 橄欖球運(yùn)動(dòng)員 Travis Kelce 的戀情說起。
Kelce 效力于堪薩斯城酋長(zhǎng)隊(duì)，兩人的戀愛關(guān)系被曝光后，霉霉也成為了該球隊(duì)比賽的?？汀?/p>
于是便有人借題發(fā)揮，用 AI 生成了以球場(chǎng)為背景，涉及霉霉和多名虛構(gòu)“隊(duì)員”的露骨照片。
而關(guān)于這些圖片的傳播過程，則存在多種傳聞，The Verge 的說法是最早出現(xiàn)在某加密聊天群組當(dāng)中。
英國(guó)《每日郵報(bào)》則稱，這些 Deepfake 照片一開始被傳至一家不良網(wǎng)站，這個(gè)網(wǎng)站上充斥著大量以知名人士為主角的不雅照片。
除了霉霉，這家網(wǎng)站還收錄了成百上千的名人，包括飾演芭比的 Magrot Robbie 也未能幸免。
照片傳上網(wǎng)后不久，在 X、Facebook 等各大社交媒體中就出現(xiàn)了瘋狂的傳播，據(jù)悉瀏覽量高達(dá)上千萬?！癟aylor Swift AI”一度成為了 X 上的熱門話題，不過目前疑似已被屏蔽。
得知此事后，霉霉的粉絲們?cè)?X 上發(fā)起了保護(hù)行動(dòng)，“PROTECT TAYLOR SWIFT”變成了新的熱搜。
但也有人混入其中，假借“PROTECT”的標(biāo)簽繼續(xù)傳播那些虛假照片……
憤怒的粉絲們挖出了一名疑似造成照片大量傳播的始作俑者，并表示其有多年的性騷擾的前科。
該賬號(hào)目前已經(jīng)設(shè)置了訪問權(quán)限，但據(jù)有權(quán)限的用戶透露，該用戶在自己的賬號(hào)上囂張地挑釁說“你們找不到我”。
截至目前，一些參與傳播照片賬號(hào)已被各大平臺(tái)陸續(xù)封禁，但仍有不少漏網(wǎng)之魚。
甚至有人在自建網(wǎng)站上公開叫賣霉霉的宣稱是“自制”的 deepfake 照片合集，1 套要價(jià) 10 英鎊。
一名據(jù)稱是接近霉霉的消息人士告訴《每日郵報(bào)》，其本人對(duì)此表示非常憤怒，團(tuán)隊(duì)正在考慮是否采取法律手段。
另據(jù)了解，此次事件已經(jīng)不是霉霉第一次遭遇 Deepfake，但上一次只是冒充她的形象和聲音給產(chǎn)品帶貨，并未出現(xiàn)露骨內(nèi)容。
美聯(lián)社的一份報(bào)告顯示，去年互聯(lián)網(wǎng)上出現(xiàn)的 Deepfake 視頻多達(dá) 14 萬段，超過了以往的總和。
而面對(duì) Deepfake，像霉霉這樣的名人尚且有粉絲和團(tuán)隊(duì)幫忙澄清、喊話，但普通人如果有這樣的遭遇，可能就百口莫辯了……
該設(shè)法防御 Deepfake 了
此次事件中，各大平臺(tái)的刪帖行動(dòng)可能還算及時(shí)，在 X 上，大部分相關(guān)內(nèi)容都已不見蹤影。
Facebook 方面，母公司 Meta 也有一名發(fā)言人告訴《每日郵報(bào)》：
這些內(nèi)容違反了我們的政策，我們正在將其從我們的平臺(tái)上刪除，并對(duì)發(fā)布該內(nèi)容的賬戶采取行動(dòng)。
但也有網(wǎng)友說，這不是刪除的問題，這些照片一開始就不應(yīng)該出現(xiàn)在這些平臺(tái)上。對(duì)此 Meta 也做出了回應(yīng)，表示“會(huì)繼續(xù)監(jiān)測(cè)并及時(shí)刪除違規(guī)內(nèi)容”。
而在技術(shù)層面，Nature 雜志也在其“2024 最值得關(guān)注的七項(xiàng)技術(shù)”一文中提及了 Deepfake 檢測(cè)。
Nature 的文章中指出，讓開發(fā)者在 AI 工具中加入隱形水印機(jī)制或許是一種方案。
但這種做法可能更多是在事后進(jìn)行追蹤，同時(shí)起到一定的震懾作用，但想從根源上阻止 Deepfake，可能還需要全人類的共同努力……
參考鏈接：
[1]https://www.theverge.com/2024/1/25/24050334/x-twitter-taylor-swift-ai-fake-images-trending
[2]https://www.dailymail.co.uk/news/article-13006645/taylor-swift-furious-ai-pictures-porn-legal-action.html
[3]https://www.nature.com/articles/d41586-024-00173-x
本文來自微信公眾號(hào)：量子位 （ID：QbitAI），作者：克雷西
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。