北京時間 2 月 7 日，歐盟委員會宣布，根據(jù)更新現(xiàn)有立法以跟上技術(shù)發(fā)展步伐的計劃，人工智能生成的圖像和其他形式描繪兒童性虐待（CSA）的深度偽造行為在歐盟可能會被定為刑事犯罪。
歐盟還提議將直播兒童性虐待行為定為新的刑事犯罪。根據(jù)該計劃，擁有和交換“戀童癖手冊”也將被定為犯罪行為 —— 這是歐盟表示旨在加強(qiáng)預(yù)防 CSA 的更廣泛措施的一部分，包括提高對網(wǎng)絡(luò)風(fēng)險的認(rèn)識，并給予支持給受害者以舉報犯罪行為（包括賦予他們獲得經(jīng)濟(jì)賠償?shù)臋?quán)利）。
在提交提案前，委員會還進(jìn)行了一項影響評估，認(rèn)為兒童上網(wǎng)人數(shù)的增加和 "最新的技術(shù)發(fā)展" 為 CSA 的發(fā)生創(chuàng)造了新的機(jī)會。成員國法律框架的差異可能會阻礙打擊虐待行為的行動，故該提案旨在鼓勵成員國加大對“提高認(rèn)識”的投入，和“減少網(wǎng)絡(luò)兒童性虐待和性剝削普遍存在的有罪不罰現(xiàn)象”，并希望改進(jìn)目前“有限的”預(yù)防 CSA 和援助受害者的工作。
早在 2022 年 5 月，委員會就提交了一份單獨的 CSA 相關(guān)立法草案，旨在建立一個框架，規(guī)定數(shù)字服務(wù)必須使用自動技術(shù)來檢測和報告其平臺上流傳的現(xiàn)有或新的兒童性虐待材料（CSAM），并識別和報告針對兒童的誘拐活動。
事實證明，CSAM 掃描計劃極具爭議性，它繼續(xù)分裂著議會和歐盟理事會的立法者，同時也引發(fā)了人們對歐盟委員會與兒童安全技術(shù)游說者之間關(guān)系的懷疑，并給歐盟行政部門帶來了其他尷尬問題，比如為推廣該提案而進(jìn)行的微目標(biāo)廣告宣傳在法律上就存在問題。
在有爭議的私人信息掃描計劃提出后不到兩年的時間里，人們對深度偽造和人工智能生成圖像的風(fēng)險的關(guān)注度也在大幅上升，包括擔(dān)心這種技術(shù)被濫用于生產(chǎn) CSAM，以及擔(dān)心這種合成內(nèi)容會使執(zhí)法部門在識別真正受害者時面臨更大的挑戰(zhàn)。因此，人工智能生成技術(shù)的病毒式蓬勃發(fā)展顯然促使立法者重新審視相關(guān)規(guī)則。
與 CSAM 掃描計劃一樣，歐盟議會和理事會的共同立法者將決定提案的最終形式。不過今天的 CSA 打擊提案可能會比信息掃描計劃產(chǎn)生的分歧要小得多。因此，當(dāng)另一項計劃仍處于停滯狀態(tài)時，該計劃更有可能會獲得通過。
根據(jù)委員會的說法，一旦就如何修訂現(xiàn)行的打擊 CSA 指令達(dá)成一致，該指令將在歐盟官方公報上公布 20 天后生效。屆時，該法案將會對預(yù)防人工智能產(chǎn)生的兒童性虐待和對受害者的保護(hù)提供重要保障。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。