北京時(shí)間 8 月 7 日晚間消息，據(jù)報(bào)道，美國證券交易委員會(huì)（SEC）主席加里?詹斯勒（Gary Gensler）多年來一直在研究 AI 的潛在后果。近期，像 ChatGPT 這樣的生產(chǎn)式 AI 工具的激增表明，這項(xiàng)技術(shù)有望改變各行各業(yè)，甚至是整個(gè)社會(huì)。
日前，詹斯勒談到了他對 AI 最擔(dān)心的一些問題。
AI 可能是金融系統(tǒng)面臨的下一個(gè)重大系統(tǒng)性風(fēng)險(xiǎn)。2020 年，詹斯勒與他人合寫了一篇關(guān)于深度學(xué)習(xí)和金融穩(wěn)定的論文。其結(jié)論是，鑒于以往網(wǎng)絡(luò)和平臺(tái)效應(yīng)對科技巨頭的影響，將來可能只有少數(shù)幾家 AI 公司能建立一些基礎(chǔ)的模型，來支持企業(yè)所依賴的 AI 工具。
詹斯勒預(yù)計(jì)，美國最終很可能會(huì)出現(xiàn) 2~3 個(gè)基礎(chǔ)性的 AI 模式。這將加深整個(gè)經(jīng)濟(jì)體系的相互聯(lián)系，使金融崩潰的可能性變得更大。因?yàn)楫?dāng)一個(gè)模型或數(shù)據(jù)集成為核心時(shí)，它會(huì)增加“羊群”行為（即從眾行為），意味著每個(gè)人都將依賴相同的信息，做出類似的反應(yīng)。
詹斯勒說：“這項(xiàng)技術(shù)（AI）將成為未來危機(jī)和未來金融危機(jī)的中心?！?/p>
AI 模型可能會(huì)把企業(yè)的利益置于投資者的利益之上。社交媒體推動(dòng)的表情包股票狂潮，以及 App 上零售交易的興起，突顯了推送和預(yù)測算法的力量。但是，使用 AI 來研究投資者行為或推薦交易的公司，在根據(jù)這些信息采取行動(dòng)時(shí)，會(huì)把用戶利益放在優(yōu)先位置嗎？
SEC 上個(gè)月提出了一項(xiàng)規(guī)則，要求各平臺(tái)消除其技術(shù)中的利益沖突。詹斯勒說：“你不應(yīng)該把顧問放在投資者之前，你也不應(yīng)該把經(jīng)紀(jì)人放在投資者之前。因此，我們就如何解決那些可能嵌入到模型中的沖突提出了具體的建議?！?/p>
如果生成式 AI 給出錯(cuò)誤的財(cái)務(wù)建議，誰應(yīng)該負(fù)責(zé)？詹斯勒稱：“根據(jù)法律，投資顧問有受托義務(wù)、注意義務(wù)和對客戶忠誠的義務(wù)。無論是否使用算法，你都有同樣的注意義務(wù)?！?/p>
在政策制定者的心目中，到底誰應(yīng)該為 AI 承擔(dān)法律責(zé)任，還存在爭議。但詹斯勒認(rèn)為：“應(yīng)該要求這些公司創(chuàng)建安全的機(jī)制，因?yàn)槿魏问褂昧奶鞕C(jī)器人的人，都不會(huì)將責(zé)任下放給這項(xiàng)技術(shù)。他說：“機(jī)器人的各項(xiàng)參數(shù)，是由建造它們的人類設(shè)定的?！?/p>
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。