北京時(shí)間 6 月 24 日消息，當(dāng)?shù)貢r(shí)間周三，亞馬遜 AI 語(yǔ)音數(shù)字助理 Alexa 可模仿任何聲音的人性化演示文稿在網(wǎng)絡(luò)上引起轟動(dòng)，人們對(duì)于是否可能出現(xiàn)偽造聲音的情況表示擔(dān)憂(yōu)，例如使用合法錄音來(lái)模仿人們說(shuō)他們實(shí)際上沒(méi)有說(shuō)過(guò)的話(huà)，來(lái)實(shí)施綁架詐騙或在公司重大決策中偽造音頻。
當(dāng)?shù)刂苋?，亞馬遜高級(jí)副總裁羅希特?普拉薩德 (Rohit Prasad) 透露其公司正在開(kāi)發(fā)一種系統(tǒng)，可使 AI 語(yǔ)音數(shù)字助理 Alexa 在聽(tīng)不到一分鐘音頻后模仿任何聲音。
該技術(shù)研發(fā)的消息公布時(shí)，人們只是簡(jiǎn)單地想到其帶來(lái)的好處，Alexa 的首席科學(xué)家 Rohit Prasad 也在周三的公司演示中充分展示了數(shù)字助理的人性化，演示了 Alexa 冒充一位祖母閱讀《綠野仙蹤》摘錄的畫(huà)面。他表示，同理心和情感等人類(lèi)特征是與人建立信任的關(guān)鍵，“在疫情持續(xù)的這段時(shí)間里，當(dāng)我們失去了我們所愛(ài)的人時(shí)，這些屬性變得更加重要”，“雖然人工智能無(wú)法消除那種失落的痛苦，但絕對(duì)可以讓他們的記憶永存?！痹撗菔窘o人以將該技術(shù)作為一種數(shù)字化死者復(fù)活工具的印象。
但普拉薩德在隨后拉斯維加斯舉行的亞馬遜技術(shù)會(huì)議中表示，該服務(wù)的主要目的不是模擬死者的聲音。
隨著該演示在網(wǎng)絡(luò)上發(fā)酵討論，引發(fā)了巨大轟動(dòng)，與此同時(shí)出現(xiàn)了一些表示擔(dān)憂(yōu)的聲音 —— 是否會(huì)使用合法的錄音來(lái)模仿人們說(shuō)他們實(shí)際上沒(méi)有發(fā)聲的話(huà)。布法羅大學(xué)計(jì)算機(jī)科學(xué)與工程教授 Siwei Lyu 的研究涉及深度偽造和數(shù)字媒體取證，他表示他對(duì)這一發(fā)展感到擔(dān)憂(yōu)，“亞馬遜開(kāi)發(fā)的語(yǔ)音轉(zhuǎn)換技術(shù)肯定有好處，但我們應(yīng)該意識(shí)到潛在的誤用，例如綁匪可以在電話(huà)中偽裝成家人或朋友來(lái)引誘不知情的受害者，或者高層管理人員在對(duì)公司財(cái)務(wù)狀況發(fā)表言論時(shí)偽造錄音，可能會(huì)使股市出現(xiàn)問(wèn)題。”
雖然亞馬遜沒(méi)有透露 Alexa 的新功能何時(shí)推出，但類(lèi)似的技術(shù)可能會(huì)讓這種惡作劇變得容易得多。普拉薩德說(shuō)，亞馬遜已經(jīng)學(xué)會(huì)根據(jù)不到一分鐘人的講話(huà)來(lái)模擬聲音，而以前需要在工作室里才能完成這些工作。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。