IT之家 3 月 29 日消息,美國 OpenAI 公司的人工智能對話模型 ChatGPT 引發(fā)全球關(guān)注,該公司的核心投資方微軟開始評估其背后的最新模型 GPT-4 對未來人類的影響。GPT-4 是一個可以生成類似于人類語言的大型多模態(tài)模型,它在各種專業(yè)和學(xué)術(shù)的標(biāo)準(zhǔn)測試中表現(xiàn)出了人類水平的性能,例如它可以通過模擬律師資格考試,并且得分在前 10% 之內(nèi)。
然而,GPT-4 也存在一些潛在的風(fēng)險,可能會對社會和人類造成不利的影響。特斯拉創(chuàng)始人埃隆?馬斯克和一千多名人工智能專家和行業(yè)高管在一封公開信中呼吁暫停開發(fā)比 GPT-4 更強(qiáng)大的系統(tǒng)六個月,直到制定并實(shí)施一套共享的安全協(xié)議,并由獨(dú)立專家進(jìn)行審計。他們還提到了高級人工智能系統(tǒng)可能導(dǎo)致的經(jīng)濟(jì)和政治動蕩,并呼吁開發(fā)者與政策制定者合作建立監(jiān)管機(jī)構(gòu)。
這封信由非營利性的“生命未來研究所”發(fā)布,包括馬斯克、蘋果公司聯(lián)合創(chuàng)始人史蒂夫-沃茲尼亞克和 Stability AI 首席執(zhí)行官埃馬德-莫斯塔克在內(nèi)的 1000 多人簽署。
信中說:“只有當(dāng)我們確信強(qiáng)大的人工智能系統(tǒng)的效果是積極的,其風(fēng)險是可控的,才應(yīng)該開發(fā)。”
此外,歐盟警察局歐洲刑警組織也在周一發(fā)出了對高級人工智能如 ChatGPT 的道德和法律擔(dān)憂,警告說這種系統(tǒng)可能被濫用于網(wǎng)絡(luò)釣魚、虛假信息和網(wǎng)絡(luò)犯罪等方面。自從去年發(fā)布以來,微軟支持的 OpenAI 的 ChatGPT 已經(jīng)促使競爭對手推出了類似的產(chǎn)品,并且許多公司也將其或類似的技術(shù)集成到了他們的應(yīng)用和產(chǎn)品中。
據(jù)IT之家了解,OpenAI 此前表示,他們已經(jīng)花了六個月的時間對 GPT-4 進(jìn)行了迭代調(diào)整,使其在事實(shí)性、可控性和拒絕超出安全范圍方面取得了最好的結(jié)果(盡管還不完美)。
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。