IT之家 1 月 12 日消息，據(jù) TechCrunch 報道，微軟公司已對一組織提起法律訴訟，指控其故意開發(fā)并使用工具繞過微軟云 AI 產品的安全防護措施，非法訪問并生成有害內容。該訴訟于 2024 年 12 月由微軟向美國弗吉尼亞東區(qū)聯(lián)邦地區(qū)法院提交，涉及 10 名未具名的被告。
根據(jù)訴訟文件，微軟指控這些被告通過使用竊取的客戶憑證和定制軟件，非法入侵了 Azure OpenAI 服務。Azure OpenAI 是微軟基于 OpenAI 技術開發(fā)的全托管服務，提供包括 ChatGPT 在內的多種 AI 模型。微軟稱，被告違反了《計算機欺詐和濫用法》《數(shù)字千年版權法》以及聯(lián)邦反敲詐勒索法，利用其軟件和服務器生成“攻擊性、有害且非法”的內容。微軟并未提供這些內容的具體細節(jié)。
微軟在訴訟中表示，公司于 2024 年 7 月發(fā)現(xiàn)，部分 Azure OpenAI 服務的客戶憑證（特別是 API 密鑰，即用于驗證應用程序或用戶的唯一字符串）被用于生成違反服務使用政策的內容。經(jīng)過調查，微軟確認這些 API 密鑰是從付費客戶處竊取的。微軟指出，被告通過系統(tǒng)性的 API 密鑰盜竊行為，從多個客戶處獲取了密鑰，并利用這些密鑰實施非法活動。
據(jù)微軟指控，被告利用竊取的 API 密鑰創(chuàng)建了一種“黑客即服務”模式，并開發(fā)了一款名為“de3u”的客戶端工具。該工具允許用戶利用被盜的 API 密鑰，無需編寫代碼即可通過 DALL-E 模型生成圖像，同時試圖繞過 Azure OpenAI 服務的內容過濾機制。例如，當用戶輸入的文本提示包含觸發(fā)內容過濾的詞匯時，de3u 會阻止服務修改提示內容，從而生成可能有害的圖像。
微軟還提到，被告通過非法編程訪問 Azure OpenAI 服務，逆向工程了微軟的內容和濫用防護措施，導致服務遭受損失。目前，托管在 GitHub（微軟旗下公司）上的 de3u 項目代碼庫已無法訪問。
IT之家注意到，在周五發(fā)布的一篇博客文章中，微軟表示，法院已授權其查封一個對被告運營“至關重要”的網(wǎng)站，以便收集證據(jù)、分析其盈利模式，并破壞其技術基礎設施。微軟還表示，已針對觀察到的非法活動采取了“反制措施”，并在 Azure OpenAI 服務中增加了額外的安全防護機制，但未透露具體細節(jié)。
廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。