IT之家 1 月 12 日消息，據(jù) TechCrunch 報(bào)道，微軟公司已對一組織提起法律訴訟，指控其故意開發(fā)并使用工具繞過微軟云 AI 產(chǎn)品的安全防護(hù)措施，非法訪問并生成有害內(nèi)容。該訴訟于 2024 年 12 月由微軟向美國弗吉尼亞東區(qū)聯(lián)邦地區(qū)法院提交，涉及 10 名未具名的被告。
根據(jù)訴訟文件，微軟指控這些被告通過使用竊取的客戶憑證和定制軟件，非法入侵了 Azure OpenAI 服務(wù)。Azure OpenAI 是微軟基于 OpenAI 技術(shù)開發(fā)的全托管服務(wù)，提供包括 ChatGPT 在內(nèi)的多種 AI 模型。微軟稱，被告違反了《計(jì)算機(jī)欺詐和濫用法》《數(shù)字千年版權(quán)法》以及聯(lián)邦反敲詐勒索法，利用其軟件和服務(wù)器生成“攻擊性、有害且非法”的內(nèi)容。微軟并未提供這些內(nèi)容的具體細(xì)節(jié)。
微軟在訴訟中表示，公司于 2024 年 7 月發(fā)現(xiàn)，部分 Azure OpenAI 服務(wù)的客戶憑證（特別是 API 密鑰，即用于驗(yàn)證應(yīng)用程序或用戶的唯一字符串）被用于生成違反服務(wù)使用政策的內(nèi)容。經(jīng)過調(diào)查，微軟確認(rèn)這些 API 密鑰是從付費(fèi)客戶處竊取的。微軟指出，被告通過系統(tǒng)性的 API 密鑰盜竊行為，從多個(gè)客戶處獲取了密鑰，并利用這些密鑰實(shí)施非法活動(dòng)。
據(jù)微軟指控，被告利用竊取的 API 密鑰創(chuàng)建了一種“黑客即服務(wù)”模式，并開發(fā)了一款名為“de3u”的客戶端工具。該工具允許用戶利用被盜的 API 密鑰，無需編寫代碼即可通過 DALL-E 模型生成圖像，同時(shí)試圖繞過 Azure OpenAI 服務(wù)的內(nèi)容過濾機(jī)制。例如，當(dāng)用戶輸入的文本提示包含觸發(fā)內(nèi)容過濾的詞匯時(shí)，de3u 會(huì)阻止服務(wù)修改提示內(nèi)容，從而生成可能有害的圖像。
微軟還提到，被告通過非法編程訪問 Azure OpenAI 服務(wù)，逆向工程了微軟的內(nèi)容和濫用防護(hù)措施，導(dǎo)致服務(wù)遭受損失。目前，托管在 GitHub（微軟旗下公司）上的 de3u 項(xiàng)目代碼庫已無法訪問。
IT之家注意到，在周五發(fā)布的一篇博客文章中，微軟表示，法院已授權(quán)其查封一個(gè)對被告運(yùn)營“至關(guān)重要”的網(wǎng)站，以便收集證據(jù)、分析其盈利模式，并破壞其技術(shù)基礎(chǔ)設(shè)施。微軟還表示，已針對觀察到的非法活動(dòng)采取了“反制措施”，并在 Azure OpenAI 服務(wù)中增加了額外的安全防護(hù)機(jī)制，但未透露具體細(xì)節(jié)。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。