IT之家 5 月 25 日消息，據美聯(lián)社，美國政府要求科技行業(yè)和金融機構關閉日益猖獗的“利用人工智能生成色情圖像”市場。
報道指出， 新出現的生成式 AI 工具可以輕松將一個人的肖像變成具有性暗示內容的 AI 換臉視頻，從而便于這類逼真的深度偽造圖像在網上傳播，而受害者（無論是名人還是兒童）都幾乎沒有辦法阻止這種情況的發(fā)生。
白宮呼吁企業(yè)主動采取合作，并通過一系列具體行動遏制這種未經當事人同意就創(chuàng)作、傳播 AI 圖像并從中獲利的行為發(fā)生，尤其要打擊涉及兒童的色情內容。
“當生成式 AI 出現時，每個人都在猜測第一個真正意義上的危害會出現在哪里。我認為我們已經有了答案”，拜登的首席科學顧問、白宮科學技術政策辦公室主任阿拉蒂?普拉巴卡爾（Arati Prabhakar） 解釋說。
她告訴美聯(lián)社，由于人工智能工具的推動，未經同意傳播圖像的情況“大幅增加”，尤其針對女性和女孩，而這類內容可能會顛覆她們的生活。“我們看到這類問題正在加速發(fā)展，因為生成式人工智能正在飛速發(fā)展。最快的解決辦法就是讓這些公司站出來承擔責任?！?/p>
美聯(lián)社記者拿到的一份文件指出，美國政府不僅僅只是呼吁 AI 開發(fā)者采取行動，還希望支付處理機構、金融機構、云計算供應商、搜索引擎以及“互聯(lián)網看門人”—— 即蘋果、谷歌等這類公司采取行動，嚴格把控應用商店中的內容。
白宮認為，這些商業(yè)公司應該加大力度，遏制此類侵犯行為的“貨幣化”過程，限制支付渠道，尤其限制那些發(fā)布未成年人露骨圖片的網站。
普拉巴卡爾提到，許多支付平臺和金融機構已經發(fā)表聲明，表示他們不會為傳播此類圖片的公司提供服務支持。不過她也強調有些人并沒有嚴格執(zhí)行，這些服務條款（即幫助受害者快速清理此類侵權內容）相當于不存在。
美聯(lián)社指出，最出名的色情偽造圖片受害者恐怕要數泰勒?斯威夫特（Taylor Swift）。今年 1 月，有大量關于這位歌手的 AI 色圖開始在網上流傳，而斯威夫特的粉絲也對此進行了反擊。后續(xù)，有部分偽造圖像被追查至微軟公司旗下的 AI 視覺設計工具，而微軟也承諾將加強防護措施。實際上，在美國和其他地方，也有數量眾多的學生在與深度偽造裸照作斗爭，部分屬于校園暴力，也有部分是學生好奇心作祟。
美國政府去年 10 月簽署了一項行政命令，旨在引導人工智能的健康發(fā)展，希望各大科技公司能夠在不危及公共安全的情況下獲利。拜登也表示，政府的人工智能保護措施需要得到法律的支持，相關團體目前正在敦促國會在未來三年內至少投入 320 億美元（IT之家備注：當前約 2320 億元人民幣）來開發(fā) AI，并為控制和監(jiān)管 AI 的能力提供資金。
白宮性別政策委員會主任珍妮弗-克萊因（Jennifer Klein）對此表示：“鼓勵公司參與進來并做出自愿承諾，并不能改變國會在此采取行動的根本需要?！?/p>
斯坦福大學互聯(lián)網觀察站去年 12 月宣布，它在龐大的人工智能數據庫 LAION 中發(fā)現了數千張疑似兒童色情的圖片。
本月早些時候，聯(lián)邦檢察官對威斯康星州一名男子提出指控，該男子涉嫌使用 AI 圖像生成器 Stable Diffusion 制作了數千張未成年人性行為圖像。
對此，Stable Diffusion 背后的 Stability AI 公司本周表示，它 “沒有批準發(fā)布 ”威斯康星州男子使用的模型，但也承認這種開源模型“覆水難收”，因為其技術組件已經完成在網上公布。
普拉巴卡爾表示，造成危害的不僅僅是開源 AI 技術?！斑@是一個更廣泛的問題。不幸的是，很多類似的人似乎都在使用這種 AI 圖像生成器。我們剛剛看到那個領域出現了爆炸式的增長，而我不認為開源系統(tǒng)和專有系統(tǒng)可以完美切割開來?！?/p>
廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。