IT之家 8 月 18 日消息，據(jù)央視網(wǎng)報(bào)道，AI 換臉詐騙檢測(cè)與預(yù)警技術(shù)正在測(cè)試中。
工業(yè)和信息化部反詐工作專(zhuān)班專(zhuān)家李坤表示：“我們正在會(huì)同行業(yè)內(nèi)的手機(jī)終端企業(yè)，將推出 AI 換臉詐騙風(fēng)險(xiǎn)提醒功能，這項(xiàng)功能僅在手機(jī)端來(lái)本地運(yùn)行，能夠有效保護(hù)用戶(hù)數(shù)據(jù)不泄露。經(jīng)過(guò)用戶(hù)授權(quán)后，可為用戶(hù)提供 AI 換臉詐騙風(fēng)險(xiǎn)預(yù)警提醒?！?/p>
當(dāng)用 AI 換了臉的技術(shù)人員與記者發(fā)起視頻通話(huà)時(shí)，測(cè)試手機(jī)終端提示“對(duì)方疑似假冒身份”。點(diǎn)擊檢測(cè)按鈕，經(jīng)過(guò)圖像掃描，系統(tǒng)提示“AI 換臉合成概率 93%”。
IT之家了解到，AI 換臉主要是使用深度合成技術(shù)?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》提出了算法備案、安全評(píng)估的手段，要求深度合成服務(wù)提供者對(duì)深度合成的內(nèi)容添加顯式或隱式水印。
中國(guó)信通院人工智能所安全與元宇宙部專(zhuān)家陳文弢稱(chēng)：“要對(duì)生成合成的內(nèi)容去添加一些水印，這個(gè)水印的本質(zhì)其實(shí)就是要一方面去提示公眾這個(gè)內(nèi)容是由 AI 生成或者合成的，另一方面也是要追溯它的來(lái)源?！?/p>
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。