IT之家 6 月 14 日消息，據(jù)央視昨日?qǐng)?bào)道，今年 1 月，有網(wǎng)絡(luò)平臺(tái)出現(xiàn)一條“西安發(fā)生爆炸”的消息，其時(shí)間地點(diǎn)等關(guān)鍵信息和配圖齊備，極具迷惑性。經(jīng)警方調(diào)查，消息發(fā)布賬號(hào)歸屬于一家江西的 MCN 機(jī)構(gòu)。
IT之家注：MCN 指“多頻道網(wǎng)絡(luò)”，是與內(nèi)容創(chuàng)作者合作或直接生產(chǎn)內(nèi)容的任何實(shí)體或組織，并在發(fā)布內(nèi)容的網(wǎng)絡(luò)平臺(tái)上執(zhí)行業(yè)務(wù)和營(yíng)銷功能。
該公司實(shí)際控制人為王某某。據(jù)南昌市公安局高新分局網(wǎng)絡(luò)安全保衛(wèi)大隊(duì)大隊(duì)長(zhǎng)李毅介紹，上述“爆炸”消息經(jīng)核實(shí)并未發(fā)生，就此初步判定該 MCN 機(jī)構(gòu)發(fā)布的數(shù)條信息涉嫌網(wǎng)絡(luò)造謠。
警方立刻對(duì)該公司負(fù)責(zé)人進(jìn)行約談，同時(shí)勘察該公司辦公場(chǎng)所，對(duì)使用的電腦和軟件工具進(jìn)行現(xiàn)場(chǎng)取證。
經(jīng)核實(shí)，上述謠言從文本到圖片全部由 AI 生成。王某某通過國(guó)內(nèi)一個(gè)網(wǎng)站 —— 其專門提供“近期可能生成熱點(diǎn)的新聞報(bào)道”或“正在 / 即將發(fā)生的一類事情”，并分級(jí)分類將關(guān)鍵詞提供給寫作者。王某某通過該網(wǎng)站生成關(guān)鍵詞，形成了文章的標(biāo)題。
王某某隨后再通過具有語(yǔ)音交互功能的 AI 軟件，說出關(guān)鍵詞后軟件自動(dòng)從網(wǎng)絡(luò)上抓取相關(guān)信息，生成數(shù)百到上千字的文本，并配上“貌似與事件相關(guān)”的虛假圖片，從而形成看起來信息量很大、實(shí)際上子虛烏有的內(nèi)容。
隨后，王某某再將 AI 生成的內(nèi)容使用另一款軟件自動(dòng)上傳到該 MCN 機(jī)構(gòu)控制的多網(wǎng)絡(luò)平臺(tái)不同賬號(hào)上，并對(duì)外發(fā)布，全程基本不需要人工參與。因此，在操作過程中產(chǎn)生了此類謠言信息。這家 MCN 機(jī)構(gòu)短時(shí)間內(nèi)生成了大量文章，最高峰一天能生成 4000-7000 篇。
警方在調(diào)查過程中發(fā)現(xiàn)，該 MCN 機(jī)構(gòu)在網(wǎng)絡(luò)上發(fā)布的內(nèi)容以民生類信息為主，通過加入夸張故事情節(jié)或獵奇性成分，或編造不實(shí)信息來獲取網(wǎng)民關(guān)注度、點(diǎn)贊量，進(jìn)而實(shí)現(xiàn)流量變現(xiàn)。通過這一方式，王某某在短時(shí)間內(nèi)獲得了高額報(bào)酬。經(jīng)警方初步估算，該機(jī)構(gòu)每天的收入在 1 萬(wàn)元以上。
經(jīng)查，江西男子王某江經(jīng)營(yíng)有 5 家 MCN 機(jī)構(gòu)，共運(yùn)營(yíng)自媒體賬號(hào) 842 個(gè)，其長(zhǎng)期組織公司人員選取熱點(diǎn)文章，使用人工智能工具批量生成不實(shí)文章進(jìn)行吸粉引流。目前，江西南昌公安機(jī)關(guān)已對(duì)王某江處以行政拘留 5 日，責(zé)令涉案 MCN 機(jī)構(gòu)停業(yè)整改。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。