IT之家 3 月 7 日消息，據(jù) CNBC 報道，一位微軟工程師向美國聯(lián)邦貿(mào)易委員會 (FTC) 舉報該公司的人工智能圖片生成器 Copilot Designer 存在安全隱患。
這位名叫 Shane Jones 的工程師在微軟工作了六年，他致信 FTC 稱，盡管他反復警告 Copilot Designer 可能會生成有害圖像，但微軟卻“拒絕”下架該工具。
在測試 Copilot Designer 的安全問題和缺陷時，Jones 發(fā)現(xiàn)該工具會生成“與墮胎權(quán)術(shù)語相關(guān)的惡魔和怪物、手持突擊步槍的青少年、暴力場景中性化的女性圖像以及未成年人飲酒和吸毒”等內(nèi)容。
據(jù)報道，自去年 12 月以來，Jones 一直試圖警告微軟有關(guān) Copilot Designer 使用的模型 DALLE-3 的問題。他在領(lǐng)英上發(fā)布了一封公開信，隨后微軟的法律團隊聯(lián)系他要求刪除帖子，他照做了。
“過去三個月里，我反復敦促微軟將 Copilot Designer 從公共使用中移除，直到更好的保障措施到位，”Jones 稱，“然而，他們再次未能實施這些改變，并繼續(xù)將該產(chǎn)品推銷給‘任何人、任何地方、任何設(shè)備’。”
微軟發(fā)言人 Frank Shaw 在給 The Verge 的一份聲明中表示，公司“致力于按照微軟的政策解決員工提出的任何和所有顧慮”。Shaw 還表示，微軟為繞過安全措施或可能對我們的服務(wù)或合作伙伴產(chǎn)生潛在影響的問題建立了產(chǎn)品內(nèi)用戶反饋工具和強大的內(nèi)部報告渠道，以便正確調(diào)查、優(yōu)先處理和糾正任何問題，并建議 Jones 利用這些渠道，以便微軟能夠“適當驗證和測試他的擔憂”。
Shaw 還表示，微軟“已與產(chǎn)品領(lǐng)導層和我們的負責任人工智能辦公室舉行會議，以審查這些報告。”
今年 1 月，在 Copilot Designer 生成并迅速傳播的 Swift 的露骨圖片事件后，Jones 就向美國參議員小組寫信表達了他的擔憂。微軟首席執(zhí)行官薩特亞?納德拉 (Satya Nadella) 稱這些圖片“令人震驚和可怕”，并表示公司將努力添加更多安全保障措施。IT之家注意到，上個月，谷歌在其用戶發(fā)現(xiàn)其 AI 圖片生成器創(chuàng)建種族多元化的納粹和其他歷史不準確圖像后暫時禁用了該工具。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。