IT之家 5 月 25 日消息,據(jù)美聯(lián)社,美國政府要求科技行業(yè)和金融機(jī)構(gòu)關(guān)閉日益猖獗的“利用人工智能生成色情圖像”市場。
報(bào)道指出, 新出現(xiàn)的生成式 AI 工具可以輕松將一個人的肖像變成具有性暗示內(nèi)容的 AI 換臉視頻,從而便于這類逼真的深度偽造圖像在網(wǎng)上傳播,而受害者(無論是名人還是兒童)都幾乎沒有辦法阻止這種情況的發(fā)生。
白宮呼吁企業(yè)主動采取合作,并通過一系列具體行動遏制這種未經(jīng)當(dāng)事人同意就創(chuàng)作、傳播 AI 圖像并從中獲利的行為發(fā)生,尤其要打擊涉及兒童的色情內(nèi)容。
“當(dāng)生成式 AI 出現(xiàn)時(shí),每個人都在猜測第一個真正意義上的危害會出現(xiàn)在哪里。我認(rèn)為我們已經(jīng)有了答案”,拜登的首席科學(xué)顧問、白宮科學(xué)技術(shù)政策辦公室主任阿拉蒂?普拉巴卡爾(Arati Prabhakar) 解釋說。
她告訴美聯(lián)社,由于人工智能工具的推動,未經(jīng)同意傳播圖像的情況“大幅增加”,尤其針對女性和女孩,而這類內(nèi)容可能會顛覆她們的生活。“我們看到這類問題正在加速發(fā)展,因?yàn)樯墒饺斯ぶ悄苷陲w速發(fā)展。最快的解決辦法就是讓這些公司站出來承擔(dān)責(zé)任?!?/p>
美聯(lián)社記者拿到的一份文件指出,美國政府不僅僅只是呼吁 AI 開發(fā)者采取行動,還希望支付處理機(jī)構(gòu)、金融機(jī)構(gòu)、云計(jì)算供應(yīng)商、搜索引擎以及“互聯(lián)網(wǎng)看門人”—— 即蘋果、谷歌等這類公司采取行動,嚴(yán)格把控應(yīng)用商店中的內(nèi)容。
白宮認(rèn)為,這些商業(yè)公司應(yīng)該加大力度,遏制此類侵犯行為的“貨幣化”過程,限制支付渠道,尤其限制那些發(fā)布未成年人露骨圖片的網(wǎng)站。
普拉巴卡爾提到,許多支付平臺和金融機(jī)構(gòu)已經(jīng)發(fā)表聲明,表示他們不會為傳播此類圖片的公司提供服務(wù)支持。不過她也強(qiáng)調(diào)有些人并沒有嚴(yán)格執(zhí)行,這些服務(wù)條款(即幫助受害者快速清理此類侵權(quán)內(nèi)容)相當(dāng)于不存在。
美聯(lián)社指出,最出名的色情偽造圖片受害者恐怕要數(shù)泰勒?斯威夫特(Taylor Swift)。今年 1 月,有大量關(guān)于這位歌手的 AI 色圖開始在網(wǎng)上流傳,而斯威夫特的粉絲也對此進(jìn)行了反擊。后續(xù),有部分偽造圖像被追查至微軟公司旗下的 AI 視覺設(shè)計(jì)工具,而微軟也承諾將加強(qiáng)防護(hù)措施。實(shí)際上,在美國和其他地方,也有數(shù)量眾多的學(xué)生在與深度偽造裸照作斗爭,部分屬于校園暴力,也有部分是學(xué)生好奇心作祟。
美國政府去年 10 月簽署了一項(xiàng)行政命令,旨在引導(dǎo)人工智能的健康發(fā)展,希望各大科技公司能夠在不危及公共安全的情況下獲利。拜登也表示,政府的人工智能保護(hù)措施需要得到法律的支持,相關(guān)團(tuán)體目前正在敦促國會在未來三年內(nèi)至少投入 320 億美元(IT之家備注:當(dāng)前約 2320 億元人民幣)來開發(fā) AI,并為控制和監(jiān)管 AI 的能力提供資金。
白宮性別政策委員會主任珍妮弗-克萊因(Jennifer Klein)對此表示:“鼓勵公司參與進(jìn)來并做出自愿承諾,并不能改變國會在此采取行動的根本需要。”
斯坦福大學(xué)互聯(lián)網(wǎng)觀察站去年 12 月宣布,它在龐大的人工智能數(shù)據(jù)庫 LAION 中發(fā)現(xiàn)了數(shù)千張疑似兒童色情的圖片。
本月早些時(shí)候,聯(lián)邦檢察官對威斯康星州一名男子提出指控,該男子涉嫌使用 AI 圖像生成器 Stable Diffusion 制作了數(shù)千張未成年人性行為圖像。
對此,Stable Diffusion 背后的 Stability AI 公司本周表示,它 “沒有批準(zhǔn)發(fā)布 ”威斯康星州男子使用的模型,但也承認(rèn)這種開源模型“覆水難收”,因?yàn)槠浼夹g(shù)組件已經(jīng)完成在網(wǎng)上公布。
普拉巴卡爾表示,造成危害的不僅僅是開源 AI 技術(shù)?!斑@是一個更廣泛的問題。不幸的是,很多類似的人似乎都在使用這種 AI 圖像生成器。我們剛剛看到那個領(lǐng)域出現(xiàn)了爆炸式的增長,而我不認(rèn)為開源系統(tǒng)和專有系統(tǒng)可以完美切割開來?!?/p>
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。