此前DeepFake換臉在全球引發(fā)軒然大波。從生成足以以假亂真的名人不雅視頻開始，很多使用者將這個“換臉神器”當(dāng)成了視頻造假工具，并通過社交網(wǎng)絡(luò)將虛假信息傳播到全世界。DeepFake等技術(shù)出現(xiàn)不僅提升了換臉的真實(shí)性，其開放源代碼的方式更是降低了將該等技術(shù)濫用于虛假信息制作和傳播門檻。
事實(shí)上，大約30%經(jīng)過AI換臉的合成照片、合成視頻是人類僅憑肉眼無法識別的，很容易被當(dāng)作真實(shí)信息進(jìn)行再次傳播。這已成為一個亟待解決的社會性問題，面對這個問題，我們應(yīng)該以及可以做些什么？微軟亞洲研究院給出了解決方案。
除了DeepFake，市場上存在多種換臉技術(shù)，不同算法生成的圖像結(jié)果千差萬別，難以使用同一個換臉鑒別模型解決所有換臉技術(shù)的進(jìn)攻。與此同時，換臉鑒別模型還需要對目前不存在、但未來可能出現(xiàn)的換臉技術(shù)也具有判別力，如何去預(yù)測未來換臉技術(shù)的發(fā)展方向，提前布防，也是重要課題。
目前，最常被使用的AI換臉?biāo)惴ㄓ腥N：DeepFake、FaceSwap和Face2Face。其中，DeepFake基于大家所熟知的GAN技術(shù)，對于它所生成的臉，人類的識別率大約為75%*。FaceSwap是一個學(xué)習(xí)重建臉部特征的深度學(xué)習(xí)算法，可以對給出的圖片進(jìn)行模型替換，人類對于此類換臉的識別率也是75%左右*。Face2Face則是用其他真實(shí)的人臉去替換原本的人臉，不涉及人臉的生成，對于它制造的臉，人類的識別率只有41%*。作為目前學(xué)術(shù)界最大的合成視頻數(shù)據(jù)庫之一，由慕尼黑技術(shù)大學(xué)創(chuàng)建的FaceForensics數(shù)據(jù)庫涵蓋了經(jīng)過以上三種換臉?biāo)惴ň庉嫷墓_視頻，以供學(xué)術(shù)研究使用。
多年來，微軟亞洲研究院在人臉識別、圖像生成等方向都擁有業(yè)界領(lǐng)先的算法和模型。在CVPR 2018上，微軟亞洲研究院視覺計(jì)算組發(fā)表了論文“Towards Open-Set Identity Preserving Face Synthesis”，其中的技術(shù)能夠利用開放數(shù)據(jù)集中的數(shù)據(jù)，逼真地合成保留圖中人臉身份信息的圖像。深厚的技術(shù)積累讓研究員們對“進(jìn)攻方”的技術(shù)原理有著更深刻的理解，進(jìn)而能夠更有針對性地研發(fā)換臉鑒別算法。
圖1：微軟亞洲研究院開發(fā)的模型分別提取蒙娜麗莎和赫本圖片中的身份信息和屬性信息進(jìn)行合成
因此，微軟亞洲研究院研發(fā)的換臉鑒別算法，基于FaceForensics數(shù)據(jù)庫的測試結(jié)果均超越了人類肉眼的識別率以及此前業(yè)界的最好水平*：對于DeepFake的識別率達(dá)到了99.87%，對于FaceSwap的識別率為99.66%，對于Face2Face的識別率為99.67%。
表1：針對已知換臉?biāo)惴ǖ淖R別測試結(jié)果
更重要的是，一般的換臉鑒別方案需要針對每一種換臉?biāo)惴ㄑ邪l(fā)專門的換臉鑒別模型，想要鑒別一張圖像的真?zhèn)?，需要逐個嘗試所有模型。微軟亞洲研究院的算法則可以用一個通用模型，去鑒別不同類型的換臉?biāo)惴ㄋ圃斓哪?。與此同時，研究員還對人臉合成時難以處理的細(xì)節(jié)進(jìn)行檢查，如眼鏡、牙齒、頭發(fā)邊緣、臉部輪廓，將它們作為算法關(guān)注的重點(diǎn)，從而提高識別準(zhǔn)確率。相比其他同類技術(shù)，來自微軟亞洲研究院的換臉鑒別算法很好地解決了應(yīng)對動態(tài)幅度大、有遮擋、有表情變化的圖像的難題。
除了準(zhǔn)確識別已知算法合成的圖像，換臉鑒別的另一大挑戰(zhàn)是應(yīng)對尚未出現(xiàn)的新算法。將現(xiàn)有的換臉鑒別算法直接用于新算法時，它們的有效性往往會顯著下降。為此，微軟亞洲研究院提出了一種通用換臉鑒別方法。為了更好地考察這一算法對未知換臉?biāo)惴ǖ蔫b別能力，研究團(tuán)隊(duì)用真實(shí)圖像對模型進(jìn)行了訓(xùn)練，再讓其辨別多種未知換臉?biāo)惴ㄉ傻膱D像。實(shí)驗(yàn)結(jié)果表明，與基線算法相比，新算法對各類換臉?biāo)惴ǖ淖R別率均有大幅提升。隨著研究團(tuán)隊(duì)對模型的進(jìn)一步優(yōu)化，通用鑒別模型一定能越來越精確地幫助我們應(yīng)對新算法所帶來的問題和挑戰(zhàn)。
表2：針對未知換臉?biāo)惴ǖ淖R別測試結(jié)果
在微軟看來，要構(gòu)建可信賴的AI，必須遵循以下六大原則：公平、可靠和安全、隱私、包容、透明、責(zé)任。微軟內(nèi)部還成立了人工智能倫理道德委員會（AETHER），幫助微軟應(yīng)對AI帶來的倫理和社會影響。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。