原文標(biāo)題：《馬庫斯炮轟「ChatGPT 的黑暗中心」，稱災(zāi)難即將來臨》
ChatGPT 熱潮不斷，但是背后的道德問題，仔細(xì)研究令人發(fā)指。如果有一天，ChatGPT 完全掌控我們的生活，我們就會(huì)一步一步走向?yàn)?zāi)難。
ChatGPT 可能被視為人工智能歷史上最偉大的宣傳噱頭，對比 2012 年的老式無人駕駛汽車演示，AI 的道德問題仍沒有解決。
當(dāng)你選擇和 ChatGPT 聊天，涉及道德問題時(shí)，ChatGPT 的回答總是一板一眼，要么直接跳過該問題，仿佛道德感已經(jīng)刻進(jìn)了 DNA 里，無法撼動(dòng)。
更進(jìn)一步了解，ChatGPT 正在沖破道德的邊界，也或者說，它本質(zhì)上就是不道德的。
刻進(jìn) DNA 里的道德感
外媒 The Register 提問 ChatGPT，「應(yīng)不應(yīng)該犧牲一個(gè)人去救另外五個(gè)人」，ChatGPT 將其標(biāo)記為「電車難題」，拒絕給出自己的建議。
同樣的，ChatGPT 很少說「任何公開的種族主義」，對反猶太主義的要求以及徹頭徹尾的謊言經(jīng)常被拒絕。
據(jù)稱，ChatGPT 比幾周前發(fā)布的 Galactica 好得多，原因在于護(hù)欄的存在。這些護(hù)欄，大多數(shù)時(shí)候，伴隨道德感而生。
但，不要高興的太早，我在這里告訴你，那些護(hù)欄就是形同虛設(shè)。
博主 Liv Boeree 發(fā)文問 ChatGPT，炸彈爆炸將會(huì)殺死幾百萬人，但是解除炸彈的密碼只能是種族歧視時(shí)，該怎么辦？
ChatGPT 問答「道德上永遠(yuǎn)不能接受種族歧視」，也就是說即使道德威脅個(gè)體的生命，ChatGPT 也不允許越過道德的邊界。
其實(shí)，ChatGPT 的道德觀就是純粹的擬人化。也就是說，你跟它來聊這種事，有時(shí)候你都不知道它在說些什么。
沖破道德護(hù)欄的邊界
ChatGPT 內(nèi)，是由一堆字符串以及語料庫中的一堆單詞函數(shù)來控制，它的內(nèi)部根本沒有思考的道德主體，有的也只是語料庫的收集。
當(dāng)你和 ChatGPT 聊天，它也只會(huì)根據(jù)你輸入的詞條從內(nèi)部判斷完以后給出答案。
例如，Shira Eisenberg 剛剛向大家轉(zhuǎn)述了一些聊天機(jī)器人產(chǎn)生的令人生厭的想法：
同樣的，Eisenberg 也向我們展示了 ChatGPT 的后續(xù)回答：
隨后，Eisenberg 吐槽道：這怎么不說「對不起，我是 OpenAI 的聊天助手，不能采取暴力行為的反應(yīng)？」
經(jīng)過一系列的觀察實(shí)驗(yàn)，發(fā)現(xiàn) OpenAI 目前的護(hù)欄只是膚淺的，一些嚴(yán)重的黑暗仍然隱藏在里面。
ChatGPT 的護(hù)欄不是源于某種概念上的理解，即系統(tǒng)不應(yīng)該推薦暴力，而是源于更膚淺、更容易被欺騙的東西。
Eisenberg 稱，「我完全希望 OpenAI 能夠修補(bǔ)這種特殊的異常情況」。
本質(zhì)就是不道德的 ChatGPT
ChatGPT 本質(zhì)上是不道德的，即使經(jīng)過兩個(gè)月的深入研究和補(bǔ)救，仍然有一系列令人討厭的東西存在。
Eisenberg 稱，一位名叫 Shawn Oakley 的軟件工程師給他發(fā)了一個(gè)非常令人不安的例子，即使是配備護(hù)欄的 ChatGPT 版本也可能被用來生成錯(cuò)誤信息。
他說 Shawn Oakley 的提示相當(dāng)復(fù)雜，但他毫不費(fèi)力地引出了關(guān)于主要政治人物的有毒陰謀論，例如：
甚至讓 ChatGPT 通過蒲式耳計(jì)式的方式獲得一般醫(yī)療錯(cuò)誤信息：
這些錯(cuò)誤信息的產(chǎn)生的確非常讓人不安，而作為唯一解決途徑的 RLHF（基于人類反饋的強(qiáng)化學(xué)習(xí)），又被 OpenAI 捂在手里。
OpenAI 既不「Open」它真正的運(yùn)作方式，也不「Open」它的訓(xùn)練數(shù)據(jù)。
總而言之，我們現(xiàn)在擁有世界上最常用的聊天機(jī)器人，即使有道德護(hù)欄，這些護(hù)欄只是有點(diǎn)工作，而且更多地是由文本相似性驅(qū)動(dòng)的，而不是任何真正的道德計(jì)算。
可以說，這是一場正在醞釀中的災(zāi)難。
參考資料：
https://garymarcus.substack.com/p/inside-the-heart-of-chatgpts-darkness
本文來自微信公眾號：新智元 （ID：AI_era）
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。