IT之家 5 月 25 日消息，據(jù)美聯(lián)社，美國政府要求科技行業(yè)和金融機(jī)構(gòu)關(guān)閉日益猖獗的“利用人工智能生成色情圖像”市場。
報(bào)道指出， 新出現(xiàn)的生成式 AI 工具可以輕松將一個人的肖像變成具有性暗示內(nèi)容的 AI 換臉視頻，從而便于這類逼真的深度偽造圖像在網(wǎng)上傳播，而受害者（無論是名人還是兒童）都幾乎沒有辦法阻止這種情況的發(fā)生。
白宮呼吁企業(yè)主動采取合作，并通過一系列具體行動遏制這種未經(jīng)當(dāng)事人同意就創(chuàng)作、傳播 AI 圖像并從中獲利的行為發(fā)生，尤其要打擊涉及兒童的色情內(nèi)容。
“當(dāng)生成式 AI 出現(xiàn)時(shí)，每個人都在猜測第一個真正意義上的危害會出現(xiàn)在哪里。我認(rèn)為我們已經(jīng)有了答案”，拜登的首席科學(xué)顧問、白宮科學(xué)技術(shù)政策辦公室主任阿拉蒂?普拉巴卡爾（Arati Prabhakar） 解釋說。
她告訴美聯(lián)社，由于人工智能工具的推動，未經(jīng)同意傳播圖像的情況“大幅增加”，尤其針對女性和女孩，而這類內(nèi)容可能會顛覆她們的生活。“我們看到這類問題正在加速發(fā)展，因?yàn)樯墒饺斯ぶ悄苷陲w速發(fā)展。最快的解決辦法就是讓這些公司站出來承擔(dān)責(zé)任?！?/p>
美聯(lián)社記者拿到的一份文件指出，美國政府不僅僅只是呼吁 AI 開發(fā)者采取行動，還希望支付處理機(jī)構(gòu)、金融機(jī)構(gòu)、云計(jì)算供應(yīng)商、搜索引擎以及“互聯(lián)網(wǎng)看門人”—— 即蘋果、谷歌等這類公司采取行動，嚴(yán)格把控應(yīng)用商店中的內(nèi)容。
白宮認(rèn)為，這些商業(yè)公司應(yīng)該加大力度，遏制此類侵犯行為的“貨幣化”過程，限制支付渠道，尤其限制那些發(fā)布未成年人露骨圖片的網(wǎng)站。
普拉巴卡爾提到，許多支付平臺和金融機(jī)構(gòu)已經(jīng)發(fā)表聲明，表示他們不會為傳播此類圖片的公司提供服務(wù)支持。不過她也強(qiáng)調(diào)有些人并沒有嚴(yán)格執(zhí)行，這些服務(wù)條款（即幫助受害者快速清理此類侵權(quán)內(nèi)容）相當(dāng)于不存在。
美聯(lián)社指出，最出名的色情偽造圖片受害者恐怕要數(shù)泰勒?斯威夫特（Taylor Swift）。今年 1 月，有大量關(guān)于這位歌手的 AI 色圖開始在網(wǎng)上流傳，而斯威夫特的粉絲也對此進(jìn)行了反擊。后續(xù)，有部分偽造圖像被追查至微軟公司旗下的 AI 視覺設(shè)計(jì)工具，而微軟也承諾將加強(qiáng)防護(hù)措施。實(shí)際上，在美國和其他地方，也有數(shù)量眾多的學(xué)生在與深度偽造裸照作斗爭，部分屬于校園暴力，也有部分是學(xué)生好奇心作祟。
美國政府去年 10 月簽署了一項(xiàng)行政命令，旨在引導(dǎo)人工智能的健康發(fā)展，希望各大科技公司能夠在不危及公共安全的情況下獲利。拜登也表示，政府的人工智能保護(hù)措施需要得到法律的支持，相關(guān)團(tuán)體目前正在敦促國會在未來三年內(nèi)至少投入 320 億美元（IT之家備注：當(dāng)前約 2320 億元人民幣）來開發(fā) AI，并為控制和監(jiān)管 AI 的能力提供資金。
白宮性別政策委員會主任珍妮弗-克萊因（Jennifer Klein）對此表示：“鼓勵公司參與進(jìn)來并做出自愿承諾，并不能改變國會在此采取行動的根本需要。”
斯坦福大學(xué)互聯(lián)網(wǎng)觀察站去年 12 月宣布，它在龐大的人工智能數(shù)據(jù)庫 LAION 中發(fā)現(xiàn)了數(shù)千張疑似兒童色情的圖片。
本月早些時(shí)候，聯(lián)邦檢察官對威斯康星州一名男子提出指控，該男子涉嫌使用 AI 圖像生成器 Stable Diffusion 制作了數(shù)千張未成年人性行為圖像。
對此，Stable Diffusion 背后的 Stability AI 公司本周表示，它 “沒有批準(zhǔn)發(fā)布 ”威斯康星州男子使用的模型，但也承認(rèn)這種開源模型“覆水難收”，因?yàn)槠浼夹g(shù)組件已經(jīng)完成在網(wǎng)上公布。
普拉巴卡爾表示，造成危害的不僅僅是開源 AI 技術(shù)?！斑@是一個更廣泛的問題。不幸的是，很多類似的人似乎都在使用這種 AI 圖像生成器。我們剛剛看到那個領(lǐng)域出現(xiàn)了爆炸式的增長，而我不認(rèn)為開源系統(tǒng)和專有系統(tǒng)可以完美切割開來?！?/p>
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。