7 月 7 日下午消息，2023 世界人工智能大會期間，在“聚焦?大模型時代 AIGC 新浪潮 — 可信 AI”論壇上，螞蟻集團聯(lián)合清華大學(xué)發(fā)布 AI 安全檢測平臺“蟻鑒 2.0”。
蟻鑒 2.0 可實現(xiàn)用生成式 AI 能力檢測生成式 AI 模型，可識別數(shù)據(jù)安全、內(nèi)容安全、科技倫理三大類的數(shù)百種風(fēng)險，覆蓋表格、文本、圖像等多種數(shù)據(jù)和任務(wù)類型，是業(yè)內(nèi)首個實現(xiàn)產(chǎn)業(yè)級應(yīng)用的全數(shù)據(jù)類型 AI 安全檢測平臺。
在該論壇上，螞蟻集團同時宣布，“蟻鑒 2.0”全面開放，面向全球開發(fā)者免費提供 AIGC 安全性、AI 可解釋性、AI 魯棒性（穩(wěn)健性）三項檢測工具，可服務(wù)于數(shù)字金融、教育、文化、醫(yī)療、電商等領(lǐng)域的大規(guī)模復(fù)雜業(yè)務(wù)場景。
螞蟻集團大安全事業(yè)群技術(shù)部總裁李俊奎表示，“生成式大模型是一種‘深黑盒’技術(shù)，‘蟻鑒 2.0’通過智能博弈對抗技術(shù)，模擬黑產(chǎn)以及自動化生成海量測試集，可實現(xiàn)‘生成式機器人’對‘AIGC 生成式模型’的誘導(dǎo)式檢測計算，很像一個 24 小時不眠不休的‘安全黑客’在找茬大模型，從而找到大模型存在的弱點和安全問題所在。”
據(jù)了解，“蟻鑒 2.0”集成了螞蟻近 10 年可信 AI 實踐、1000 余項可信 AI 專利，支持零編碼測評。開發(fā)者通過 API 接口，將 AI 模型接入蟻鑒，就可以一鍵識別和挖掘模型漏洞。
此次論壇上，中國信通院、上海人工智能實驗室、武漢大學(xué)、螞蟻集團等多家單位共同發(fā)起《AIGC 可信倡議》，圍繞人工智能可能引發(fā)的經(jīng)濟、安全、隱私和數(shù)據(jù)治理等問題，提出構(gòu)建 AIGC 可信發(fā)展的全球治理合作框架，采用安全可信的數(shù)據(jù)資源、技術(shù)框架、計算方法和軟件平臺等全面提升 AIGC 可信工程化能力，最大限度確保生成式 AI 安全、透明、可釋。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。