AI 檢測

斯坦福大學(xué)的研究者日前發(fā)現(xiàn)，如果非英語母語者掌握的英文詞匯量不夠多，在撰寫英文文章時(shí)，很容易被 GPT 檢測器誤認(rèn)為是 AI 生成內(nèi)容。這項(xiàng)研究由史丹福大學(xué)生物醫(yī)學(xué)資料科學(xué)的助理教授 James Zou 所主導(dǎo)，刊登于《Patterns》期刊，表示當(dāng)下的 GPT 檢測器實(shí)際上存在不足，難以評定文章是否出自 AI 之手。研究者使用了 7 款熱門的 GPT 檢測器來檢查共計(jì) 179 篇真人書寫的托福文章，發(fā)現(xiàn)這些檢測器把一半以上非英語母語者撰寫的文章當(dāng)作是 AI 生成的。造成辨識錯(cuò)誤的主要原因是非英語母語者在語言的多樣化與詞語的選擇上較為有限，且掌握的英文詞匯相對更“正式”，在部分生活場景中并不常使用，因此產(chǎn)生了 AI 的錯(cuò)誤判定現(xiàn)象。

2023 世界人工智能大會(huì)期間，在“聚焦?大模型時(shí)代 AIGC 新浪潮 — 可信 AI”論壇上，螞蟻集團(tuán)聯(lián)合清華大學(xué)發(fā)布 AI 安全檢測平臺(tái)“蟻鑒 2.0”。蟻鑒 2.0 可實(shí)現(xiàn)用生成式 AI 能力檢測生成式 AI 模型，可識別數(shù)據(jù)安全、內(nèi)容安全、科技倫理三大類的數(shù)百種風(fēng)險(xiǎn)。