設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

2029 年會實現(xiàn)通用人工智能嗎?Gary Marcus「叫板」馬斯克:賭十萬美元如何?

雷峰網(wǎng) 2022/6/5 6:57:09 責(zé)編:汪淼

5 月 30 日,世界級紅人埃隆?馬斯克(Elon Musk)發(fā)了一條推文,稱:

2029 年是關(guān)鍵的一年,如果那時候我們還沒有實現(xiàn)通用人工智能(Artifical General Intelligence,AGI),我會覺得很奇怪?;鹦巧系娜藗円惨粯樱ㄓX得奇怪)。

2029年會實現(xiàn)通用人工智能嗎?Gary Marcus「叫板」馬斯克:賭十萬美元如何?

馬斯克發(fā)推不久,知名人工智能科學(xué)家、紐約大學(xué)心理系教授 Gary F. Marcus 立即寫了一篇博文叫囂馬斯克,從五個方面向馬斯克「科普」了通用人工智能的知識,提出自己認(rèn)為 2029 年不可能實現(xiàn) AGI 的原因

2029年會實現(xiàn)通用人工智能嗎?Gary Marcus「叫板」馬斯克:賭十萬美元如何?

對于 Gary Marcus 的叫板,馬斯克還沒回復(fù)。

圣達(dá)菲研究所的人工智能專家梅蘭妮?米切爾(Melanie Mitchell)建議把賭注放在 longbets.org 網(wǎng)站上,Marcus 稱,只要馬斯克愿意打賭,自己就欣然赴約。

2029年會實現(xiàn)通用人工智能嗎?Gary Marcus「叫板」馬斯克:賭十萬美元如何?

以下是 Gary Marcus 反駁馬斯克的五個角度,AI 科技評論作了不改原意的整理如下:

馬斯克是個「大話」預(yù)言家

第一,馬斯克對時間的預(yù)測總是不太準(zhǔn)確。

2015 年時,馬斯克說距離真正的自動駕駛汽車出現(xiàn)還有兩年時間;從那以后他每年都說同樣的話,但真正的自動駕駛汽車到現(xiàn)在還沒出現(xiàn)。

2029年會實現(xiàn)通用人工智能嗎?Gary Marcus「叫板」馬斯克:賭十萬美元如何?

馬斯克不關(guān)注邊緣案例的挑戰(zhàn)

其次,馬斯克應(yīng)該更多地關(guān)注邊緣情況(也就是異常值,或不尋常的情況)的挑戰(zhàn),并思考這些異常值對預(yù)測可能意味著什么。

因為長尾問題,我們很容易認(rèn)為 AI 問題比實際情況要簡單得多。我們手上有大量的關(guān)于日常事務(wù)的數(shù)據(jù),當(dāng)前的技術(shù)很容易處理這些數(shù)據(jù),這就會誤導(dǎo)我們,給我們一種錯誤的印象;而對于罕見的事件,我們得到的數(shù)據(jù)非常少,且目前的技術(shù)很難去處理這些數(shù)據(jù)。

我們?nèi)祟悡碛写罅康牟煌耆畔⑼评淼募记桑苍S可以克服生活中的長尾問題。但對于目前流行的、更多依賴大數(shù)據(jù)而非推理的人工智能技術(shù)來說,長尾問題是一個非常嚴(yán)重的問題。

2016 年,在一篇題為“Is Big Data Taking Us Closer to the Deeper Questions in Artificial Intelligence?”的采訪中,Gary Marcus 試圖就此發(fā)出警告。他當(dāng)時是這么說的:

盡管有很多關(guān)于人工智能的炒作,也有很多資金投入人工智能,但我覺得這個領(lǐng)域正朝著錯誤的方向發(fā)展。在深度學(xué)習(xí)和大數(shù)據(jù)這些特定的方向上,目前有很多唾手可得的成果。人們對大數(shù)據(jù)以及大數(shù)據(jù)現(xiàn)在給他們帶來的東西感到非常興奮,但我不確定它是否會讓我們更接近人工智能中更深層的問題,比如我們?nèi)绾卫斫庹Z言或我們?nèi)绾瓮评硎澜纭?/p>

再想想無人駕駛汽車。你會發(fā)現(xiàn)在一般情況下,無人駕駛汽車是很棒的。如果你把它們放在帕洛阿爾托天氣晴朗的地方,車輛性能會非常棒。但如果你把車輛放在下雪或下雨的地方,或者以前沒見過的地方,這些汽車就難免出問題。Steven Levy 寫了一篇關(guān)于谷歌自動汽車廠的文章,文章中他談到了 2015 年底的研究讓他們終于讓系統(tǒng)能夠識別樹葉。

系統(tǒng)確實能識別葉子,但對于不常見的東西,就不能獲得那么多的數(shù)據(jù)。人類之間可以用常識來溝通。我們可以試著弄清楚這個東西是什么,它是怎么到那里的,但是系統(tǒng)能做的只是記憶東西,這才是真正的限制。

特斯拉自動駕駛撞上價值 300 萬美元的噴氣式飛機

▲ 特斯拉自動駕駛撞上價值 300 萬美元的噴氣式飛機

意想不到的情況一直是當(dāng)代人工智能技術(shù)的禍患,而且可能會一直是,直到真正的革命出現(xiàn)。這就是為什么 Marcus 保證馬斯克不會在今年或明年推出 L5 級別的自動駕駛汽車。

異常值并不是完全無法解決,但仍然是一個重大問題,迄今還沒有已知的魯棒的解決方案。Marcus 認(rèn)為人們必須擺脫對深度學(xué)習(xí)等現(xiàn)有技術(shù)的嚴(yán)重依賴。距離 2029 年還有 7 年,7 年是很長的一段時間,但是如果要在這個十年結(jié)束之前實現(xiàn) AGI,這個領(lǐng)域就需要在其他想法上進(jìn)行投資。否則,僅僅是異常值就足以使實現(xiàn) AGI 的目標(biāo)失敗。

通用人工智能范圍很廣

馬斯克需要考慮的第三件事是,AGI 是一個涉及面很廣的問題,因為智能本身的涉及面很廣。Marcus 在此處引用了 Chaz Firestone 和 Brian Scholl 的這句話:

世上并不只有一種思維方式,因為思維并不是一個整體。相反,思維是可以分為部分的,而且其不同部分以不同的方式運作:“看到顏色”與“計劃度假”運作的方式不同,而“計劃度假”與“理解一句話”、“移動肢體”、“記住一件事”或“感受一種情緒”都不同。

例如,深度學(xué)習(xí)在識別物體方面做得相當(dāng)不錯,但在計劃、閱讀或語言理解方面做得差一些。這樣的情況可以用下圖表示:

2029年會實現(xiàn)通用人工智能嗎?Gary Marcus「叫板」馬斯克:賭十萬美元如何?

目前的 AI 在某些感知方面做得很好,但是在其他方面仍需努力。即使在感知中,3D 感知仍然是一個挑戰(zhàn),場景理解也沒有解決。對于常識、推理、語言或類比等幾個領(lǐng)域,仍然沒有任何穩(wěn)定或值得信賴的解決方案。事實是,這張餅狀圖 Marcus 已經(jīng)用 5 年了,AI 的情況卻幾乎沒有改變。

在 Marcus 發(fā)表于 2018 年的文章“Deep Learning: A Critical Appraisal”中,他總結(jié)道:

盡管我提出了這些問題,但我不認(rèn)為我們應(yīng)該放棄深度學(xué)習(xí)。

相反,我們需要重新定義深度學(xué)習(xí):深度學(xué)習(xí)不是一種通用溶劑,而應(yīng)該是一種工具,除了這種工具,我們還需要錘子、扳手和鉗子,更不用說鑿子、鉆頭、電壓表、邏輯探頭和示波器。

四年過去了,許多人仍然希望深度學(xué)習(xí)能成為萬能藥;可這對 Marcus 來說仍然是不現(xiàn)實的,他仍然認(rèn)為人類需要更多的技術(shù)。實事求是地說,7 年可能不足以發(fā)明這些工具(如果它們還不存在的話),也不足以將它們從實驗室投入生產(chǎn)。

Marcus 向馬斯克提出 2018 年“量產(chǎn)地獄”(馬斯克認(rèn)為 Model 3 電動轎車量產(chǎn)階段猶如地獄般煎熬,并稱之為“量產(chǎn)地獄” )的情形。在不到十年的時間里要對一套以前從未完全集成過的技術(shù)進(jìn)行這樣的整合,要求會非常高。

Marcus 稱,「我不知道馬斯克打算把 Optimus(特斯拉的人形機器人)打造成什么樣,但我可以保證,通用家用機器人所需要的 AGI 遠(yuǎn)遠(yuǎn)超過一輛汽車所需要的,畢竟汽車無論是在公路上開還是在馬路上開,或多或少都是差不多的?!?/p>

復(fù)雜的認(rèn)知系統(tǒng)尚未打造

馬斯克需要意識到的第四件事是,人類仍然沒有一個適當(dāng)?shù)姆椒ㄕ搧順?gòu)建復(fù)雜的認(rèn)知系統(tǒng)。

復(fù)雜的認(rèn)知系統(tǒng)有太多的活動部件,這通常意味著,制造無人駕駛汽車等東西的人最終就像在玩一個巨大的“打地鼠游戲”,往往剛解決了一個問題,又出現(xiàn)了另一個問題。一個補丁接一個補丁有時能派上用場,有時則無效。Marcus 認(rèn)為不可能在不解決方法論問題的情況下得到 AGI,而且他認(rèn)為目前還沒有人提出好的建議。

使用深度學(xué)習(xí)進(jìn)行調(diào)試非常困難,因為沒有人真正理解它是如何工作的,也沒有人知道如何修復(fù)問題,以及收集更多數(shù)據(jù)和添加更多層等等。大眾所知道的那種調(diào)試在經(jīng)典編程環(huán)境中并不適用;因為深度學(xué)習(xí)系統(tǒng)是如此不可解釋,所以人們不能通過相同的方式思考程序在做什么,也不能指望通常的消除過程。相反,現(xiàn)在在深度學(xué)習(xí)范式中,有大量的試錯、再訓(xùn)練和重新測試,更不用說大量的數(shù)據(jù)清洗和數(shù)據(jù)增強實驗等等。Facebook 最近的一份報告坦率地說,在訓(xùn)練大型語言模型 OPT 的過程中遇到了很多麻煩。

有時候這更像是煉金術(shù)而不是科學(xué),正如下圖一樣:

“這是你的機器學(xué)習(xí)系統(tǒng)嗎?”

▲ “這是你的機器學(xué)習(xí)系統(tǒng)嗎?”

“對,你把數(shù)據(jù)倒進(jìn)這一大堆線性代數(shù)里,然后到另一邊去撿答案?!?/p>

“如果答案是錯的呢?”

“那就在這一大堆東西上攪和,直到答案看上去正確就行了?!?/p>

編程驗證可能最終會有所幫助,但同樣,在深度學(xué)習(xí)中還沒有編寫可驗證代碼的工具。如果馬斯克想贏這個賭約,那他們可能也要解決這個問題,而且得很快解決。

打賭標(biāo)準(zhǔn)

馬斯克需要考慮的最后一件事是賭約的標(biāo)準(zhǔn)。如果要打賭就要制定基本規(guī)則。AGI 這個術(shù)語相當(dāng)模糊,就像 Marcus 前幾天在 Twitter 上說的那樣:

我把 AGI 定義為“靈活而通用的智力,具有可與人類智慧相媲美、或超過人類智慧的智謀和可靠性?!?/p>

2029年會實現(xiàn)通用人工智能嗎?Gary Marcus「叫板」馬斯克:賭十萬美元如何?

Marcus 還提出要跟馬斯克賭一把,并制定具體的基本打賭規(guī)則。他和 Ernie Davis 根據(jù)與 Metaculus 公司合作的人的要求寫下了以下五個預(yù)言:

  • 到 2029 年,人工智能仍無法在觀看電影的同時準(zhǔn)確地告訴你發(fā)生了什么(Marcus 在 2014 年的《紐約客》雜志上稱之為「理解挑戰(zhàn)」),也不能解答出這些角色是誰,他們的沖突和動機是什么等問題。

  • 到 2029 年,人工智能仍無法閱讀小說并準(zhǔn)確回答有關(guān)情節(jié)、角色、沖突、動機等問題。

  • 到 2029 年,人工智能仍無法在任意廚房里做一個稱職的廚師。

  • 到 2029 年,人工智能仍無法根據(jù)自然語言規(guī)范或通過與非專業(yè)用戶的交互,可靠地編寫超過 10,000 行無 bug 的代碼。(將現(xiàn)有庫中的代碼粘合在一起不算數(shù)。)

  • 到 2029 年,人工智能仍無法從用自然語言編寫的數(shù)學(xué)文獻(xiàn)中任意提取證明,并將其轉(zhuǎn)換為適合于符號驗證的符號形式。

如果馬斯克(或其他人)在 2029 年成功打破至少三個預(yù)言,那他就贏了;如果只打破了一兩個,則不能說 AGI 能夠?qū)崿F(xiàn),贏家就是 Marcus。

對這個賭約,Marcus 躍躍欲試,并對馬斯克:“想要打賭嗎?賭 10 萬美元怎么樣?”

大家怎么看?你們認(rèn)為誰會贏?(吃瓜)

參考鏈接:

https://garymarcus.substack.com/p/dear-elon-musk-here-are-five-things?s=w

https://www.ted.com/talks/elon_musk_elon_musk_talks_twitter_tesla_and_how_his_brain_works_live_at_ted2022

https://arxiv.org/abs/1801.00631

https://www.wsj.com/articles/elon-musk-races-to-exit-teslas-production-hell-1530149814

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:馬斯克,人工智能

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機APP應(yīng)用 魔方 最會買 要知