12 月 4 日-5 日，由清華大學(xué)人工智能國(guó)際治理研究院主辦的 2021 人工智能合作與治理國(guó)際論壇在清華大學(xué)舉行。
在以“人工智能技術(shù)前沿與治理”為主題的論壇中，中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)、清華大學(xué)人工智能國(guó)際治理研究院學(xué)術(shù)委員張鈸從人工智能治理角度，探討了人工智能技術(shù)的發(fā)展道路。
▲ 中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)張鈸
張鈸在演講中指出，現(xiàn)有的人工智能技術(shù)常常引起公平性、安全性的問(wèn)題，具體體現(xiàn)在三個(gè)層面。一是利用深度神經(jīng)元網(wǎng)絡(luò)來(lái)產(chǎn)生一些文本、圖像或是語(yǔ)音時(shí)，有時(shí)會(huì)包含性別、種族、信仰等方面的歧視。
二是現(xiàn)在所有人工智能基于深度學(xué)習(xí)的算法都非常脆弱，非常容易被攻擊，非常容易受到環(huán)境變化影響，這是人工智能安全性的問(wèn)題，會(huì)有意無(wú)意地被誤用。最后一個(gè)方面是，目前深度神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)的技術(shù)非常容易造假，專門有一個(gè)名詞叫做深度造假，這些問(wèn)題很嚴(yán)重，也會(huì)帶來(lái)很多危害性。
張鈸具體舉例并對(duì)這些問(wèn)題進(jìn)行了說(shuō)明。如對(duì)于不同種族的情感分析，利用大數(shù)據(jù)深度學(xué)習(xí)方法進(jìn)行，得到的結(jié)論是對(duì)亞洲人評(píng)價(jià)相對(duì)比較正面，非洲評(píng)價(jià)比較低。模型越大，這個(gè)偏見(jiàn)或歧視會(huì)縮小。這也說(shuō)明，用深度學(xué)習(xí)的方法，往往會(huì)得到一些帶有種族歧視的結(jié)論，對(duì)宗 教常用詞的挖掘也會(huì)出現(xiàn)一些信仰歧視。
他還提到了在人臉識(shí)別方面的研究，正常情況下攻擊者無(wú)法登錄手機(jī)，但如果設(shè)計(jì)的偽造的眼鏡戴上去以后，攻擊者就能夠順利正常登錄手機(jī)，換句話講人臉識(shí)別非常容易受到攻擊。同時(shí)，凡是使用深度學(xué)習(xí)的方法做的語(yǔ)音識(shí)別系統(tǒng)也非常容易受到攻擊，只要在正常的語(yǔ)音中加上一點(diǎn)點(diǎn)噪聲，可能人都無(wú)法察覺(jué)，但機(jī)器“卻作出完全錯(cuò)誤的識(shí)別”。此外，凡是利用深度學(xué)習(xí)生成的文本，或做數(shù)據(jù)挖掘，則更加脆弱，而視頻造假和語(yǔ)音合成造假也很容易。
“這些例子都說(shuō)明現(xiàn)在人工智能的算法是非常脆弱的，用深度學(xué)習(xí)的方法，造假太容易了?！睘槭裁磿?huì)產(chǎn)生這個(gè)現(xiàn)象？張鈸解釋稱，這是人工智能的局限性所致，因?yàn)槟壳叭斯ぶ悄芑旧献钪黧w的是深度學(xué)習(xí)，深度學(xué)習(xí)做出來(lái)的算法，天然存在著不可解釋性、不安全、不可控，容易受到攻擊，而且由于需要大量的數(shù)據(jù)，非常不容易推廣。
“為了解決這個(gè)問(wèn)題，我們提出來(lái)要發(fā)展第三代人工智能，建立一個(gè)可解釋的人工智能理念。因?yàn)楝F(xiàn)在人工智能的深度學(xué)習(xí)理論是不可解釋，而且非常脆弱，用技術(shù)語(yǔ)言來(lái)講，就是非常不魯棒?！睆堚撜J(rèn)為，首先要從理論上解決這個(gè)問(wèn)題，這樣才有可能發(fā)展出來(lái)安全、可信、可靠、可擴(kuò)展的人工智能技術(shù)，才有可能使人工智能技術(shù)應(yīng)用更加安全、更加公平。
他表示，發(fā)展第三代人工智能，必須把第一代人工智能知識(shí)驅(qū)動(dòng)和第二代人工智能數(shù)據(jù)驅(qū)動(dòng)結(jié)合起來(lái)，必須充分利用知識(shí)、數(shù)據(jù)、算法、算力四個(gè)要素來(lái)解決人工智能現(xiàn)在存在的不安全性問(wèn)題。
在這個(gè)方面，張鈸團(tuán)隊(duì)也做了很多工作。首先，在算法安全性方面，為解決深度學(xué)習(xí)非常脆弱、不可解釋的問(wèn)題，通過(guò)加上符號(hào)知識(shí)等，可以把原來(lái)深度學(xué)習(xí)算法提升成第三代人工智能算法，這個(gè)算法更加安全、可信、可靠。
這就是張鈸團(tuán)隊(duì)發(fā)布的開(kāi)源平臺(tái) —— 珠算平臺(tái)，跟現(xiàn)在國(guó)際上已有的平臺(tái)相比，有很多更具有可解釋性、更加魯棒、更加穩(wěn)健的人工智能算法。同時(shí)基于該平臺(tái)，還孵化了一家公司瑞萊智慧，利用這些新的第三代人工智能技術(shù)，為目前產(chǎn)業(yè)升級(jí)提供更加安全、可信的人工智能技術(shù)，推動(dòng)人工智能在金融、醫(yī)療、健康、農(nóng)業(yè)、智能制造等得到廣泛的應(yīng)用。
其次，數(shù)據(jù)安全性問(wèn)題也需關(guān)注。張鈸認(rèn)為，數(shù)據(jù)對(duì)人工智能發(fā)展起到非常大的重要作用，第二代人工智能發(fā)展基本上是靠數(shù)據(jù)驅(qū)動(dòng)，數(shù)據(jù)貢獻(xiàn)不可磨滅，今后也要很好地依靠數(shù)據(jù)。
他表示，數(shù)據(jù)應(yīng)用存在兩個(gè)主要問(wèn)題，黑箱學(xué)習(xí)的方法導(dǎo)致不可能提取真正的因果關(guān)系，要提取出真正有用的東西，很多地方都需要知識(shí)的引導(dǎo)，知識(shí)的幫助，必須利用知識(shí)分析。此外，在數(shù)據(jù)安全性問(wèn)題方面，如何防止數(shù)據(jù)被濫用、保證數(shù)據(jù)隱私、保證數(shù)據(jù)被安全地使用等，這需要出臺(tái)各種各樣的政策法規(guī)，來(lái)限定或規(guī)范對(duì)數(shù)據(jù)的應(yīng)用。
“現(xiàn)在只是做了初步工作，發(fā)展第三代人工智能是非常艱巨、非常重要的長(zhǎng)遠(yuǎn)工作，這個(gè)工作必須全世界聯(lián)合起來(lái)，團(tuán)結(jié)起來(lái)，共同發(fā)展人工智能，使人工智能最終能造福于人類，造福于全社會(huì)?！睆堚摵粲酢?/p>
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。