你認為的 AGI 是什么樣子的？OpenAI 聯(lián)創(chuàng)、前特斯拉 AI 總監(jiān) Karpathy 發(fā)文，用自動駕駛詮釋 AGI！對于「通用人工智能」，OpenAI 科學(xué)家 Karpathy 下場做出了解釋。
前幾天，Karpathy 在個人 blog 發(fā)表了一篇文章「將自動駕駛作為 AGI 的一個案例來研究」。
不知是何原因，他卻刪除了這篇文章，幸而，還有網(wǎng)絡(luò)備份。
眾所周知，Karpathy 不僅是 OpenAI 的創(chuàng)始成員之一，還曾是特斯拉前 AI 高級總監(jiān)、自動駕駛 Autopilot 負責(zé)人。
他將自動駕駛作為案例，研究 AGI，這篇文章的觀點確實值得一看。
自動駕駛
LLM 的爆發(fā)引發(fā)了眾多關(guān)于 AGI 降臨的時間，甚至它可能是什么樣子的討論。有的人對 AGI 未來充滿希望，持有樂觀的態(tài)度。而有的人卻充滿恐懼和悲觀的情緒。
不幸的是，其中也有很多討論過于抽象，導(dǎo)致人們的觀點互不接軌。因此，我總是在尋找具體的類比和歷史先例，用更具體的術(shù)語來探討這個主題。
特別是，當我被問及「你認為 AGI 會是什么樣子」時，我個人喜歡用自動駕駛舉例。在這篇文章中，我想解釋一下原因。讓我們從 AGI 的一個常見定義開始：
AGI：一個在大多數(shù)有經(jīng)濟價值的工作中超越人類能力的自主系統(tǒng)。
請注意，在這個 AGI 定義中有兩個具體要求。
首先，它是一個完全自主的系統(tǒng)，即自己運作，很少或根本沒有人類監(jiān)督。
其次，它在大多數(shù)有經(jīng)濟價值的工作上都是自主運作的。關(guān)于這部分數(shù)據(jù)，我個人喜歡參考美國勞工統(tǒng)計局的職業(yè)指數(shù)。
一個同時具有這兩種性質(zhì)的系統(tǒng)，我們將其稱之為 AGI。
我想在這篇文章中建議的是，最近我們自動駕駛能力的發(fā)展是一個非常好的早期案例，研究了日益自動化的社會動態(tài)，可以拓展到對 AGI 的總體樣貌和感受的研究。
我這樣認為的原因是，這個領(lǐng)域具有幾個特征。可以簡單地說「it is a big deal」：自動駕駛對社會來說非常容易理解，更常見。
它在經(jīng)濟規(guī)模上占據(jù)了很大一部分，并且雇傭了大量的人類勞動力。駕駛是一個足夠復(fù)雜的問題，但我們已經(jīng)實現(xiàn)自動化，并引來社會的高度關(guān)注。
當然，也還有其他的行業(yè)實現(xiàn)了大規(guī)模的自動化，但要么是我個人對它們不太熟悉，要么它們在上述一些屬性方面有所欠缺。
L2 級自動化
駕駛的自動化被認為是 AI 領(lǐng)域中一個極具挑戰(zhàn)的問題，并非一蹴而就。
它是通過逐步將駕駛?cè)蝿?wù)自動化的過程而成的，這個過程中涉及了許多階段性的「工具型 AI」。
在車輛自動化方面，目前許多汽車已經(jīng)配備了 L2 級駕駛輔助系統(tǒng)。即一個能與人類司機協(xié)作，共同完成從起點到終點旅程的 AI。
雖然它還不能完全自主駕駛，但 L2 已經(jīng)能處理許多駕駛中的基礎(chǔ)任務(wù)。有時，它甚至能自動完成整個操作流程，比如自動泊車。
在這一過程中，人類主要扮演監(jiān)督角色，甚至可以隨時接手，直接駕駛或下達高級指令（如換道請求）。
在某些方面（比如保持車道居中和快速決策），AI 的表現(xiàn)甚至超過了人類，但在一些罕見的情況下還是會有所不足。
這與我們在其他行業(yè)看到的許多 AI 工具非常相似，特別是隨 LLM 最近的技術(shù)突破。
例如，作為程序員，當我用 GitHub Copilot 來自動補全一段代碼，或使用 GPT-4 編寫更復(fù)雜的函數(shù)時，我實際上是將基礎(chǔ)任務(wù)交給了自動化系統(tǒng).
但同樣，如有需要，我也可以隨時介入進行調(diào)整。
換句話說，Copilot 和 GPT-4 就像是在編程領(lǐng)域的「二級」自動化工具。
在整個行業(yè)中，有許多類似的「二級」自動化解決方案，但并不是所有的都基于大模型，從 TurboTax，到亞馬遜倉庫中機器人，再到翻譯、寫作、藝術(shù)、法律、營銷等領(lǐng)域的各種「工具型 AI」。
全自動駕駛
隨著時間的推移，一些系統(tǒng)的可靠性達到了新高度，變得就像今天的 Waymo 那樣。
它們正逐步實現(xiàn)「全自動駕駛」。
如今，在舊金山，你只需打開應(yīng)用，就能叫到一輛 Waymo 無人駕駛車，它將會來接你，并把你安全送達目的地。
這實在是令人驚嘆。你無需懂得駕駛，也無需關(guān)注路況，只需舒服地靠后坐，并小憩片刻，系統(tǒng)便會將你從起點帶到終點。
與我交談過的許多人一樣，我個人更傾向于選擇 Waymo 而非 Uber，我?guī)缀踔皇褂盟鼇磉M行市內(nèi)交通。
你會擁有更穩(wěn)定、可預(yù)測的旅程體驗，而且駕駛過程平穩(wěn)，可以聽音樂，不用顧及司機在聽你說話時在想什么。
「復(fù)合經(jīng)濟」
雖然自動駕駛技術(shù)已經(jīng)走入現(xiàn)實，但仍有許多人選擇使用 Uber。原因何在？
首先，很多人根本不知道他們可以選擇 Waymo 作為出行工具。即便知道，許多人對自動化系統(tǒng)仍缺乏足夠的信任，更傾向于由人類司機駕駛。
不過，即使有些人接受自動駕駛，或許他們還是更傾向于人類司機，比如享受與司機的交談，以及與他人的互動。
不僅僅是個人偏好，從現(xiàn)在應(yīng)用中不斷增長的等待時間可以看出，Waymo 面臨著供不應(yīng)求的問題。市場上的車輛數(shù)量遠遠無法滿足需求。
這部分原因可能是，Waymo 在管理和監(jiān)測風(fēng)險和輿論方面非常謹慎。
另一方面，據(jù)我所知，Waymo 受到監(jiān)管機構(gòu)的限制，只能在街道上部署一定數(shù)量的車輛。另一個限制因素是，Waymo 不能一夜之間就完全取代 Uber。
他們需要建立基礎(chǔ)設(shè)施，生產(chǎn)汽車，擴大運營規(guī)模。
我個人認為，其他經(jīng)濟領(lǐng)域的自動化也將面臨同樣的情況 —— 有些人 / 公司會立即采用它們，但許多人（1）不了解這些技術(shù)，（2）即便了解，也不會信任它們，（3）即使信任，他們?nèi)匀桓敢馀c人類合作。
但除此之外，需求超過供應(yīng)，AGI 也將因為同樣的原因受到同樣的限制，包括開發(fā)商的自我約束、監(jiān)管限制以及資源短缺，比如需要建立更多的 GPU 數(shù)據(jù)中心。
技術(shù)全球化
正如我已經(jīng)在資源限制中暗示的那樣，這種技術(shù)的全球化部署成本非常高，還需要耗費大量人力，推廣速度也慢。
今天，Waymo 只能在舊金山和鳳凰城駕駛，但這種技術(shù)本身是通用的，還可以擴展，因此該公司可能很快就會推廣到洛杉磯、奧斯汀等地。
自動駕駛汽車還可能會受到其他環(huán)境因素的限制，比如在大雪中駕駛。在一些罕見的情況下，它甚至可能需要操作員的救援。
此外，技術(shù)能力的擴展還需要很多資源成本，并非是免費的。
比如，Waymo 必須投入資源后才能進入另一個城市，比如繪制街道地圖、整體感知路徑規(guī)劃、控制算法以適應(yīng)某些特殊情況，或當?shù)氐姆ㄒ?guī)。
就像我們的工作比喻所示，許多工作可能只在某些特定環(huán)境下才能實現(xiàn)自動化，若是擴大范圍還需要大量的工作。
無論哪種情況，自動駕駛技術(shù)本身都是通用的和可擴展的，其應(yīng)用前景將隨著時間的推移而逐步拓寬。
社會反應(yīng)：很快成為「過眼云煙」
關(guān)于自動駕駛技術(shù)逐漸融入社會的過程，我覺得特別有趣的一點是 ——
就在幾年前，人們還在熱烈討論并對其充滿了疑慮和擔(dān)憂，爭論著它是否能夠成功運作，甚至是否可行，這成了一個廣泛關(guān)注的議題。而現(xiàn)在，自動駕駛不再是未來的夢想，它真的出現(xiàn)了。
它不僅僅是一個研究原型，而是成為了一種可以用金錢購買的完全自動化交通方式。
在目前的應(yīng)用范圍內(nèi)，自動駕駛技術(shù)已經(jīng)實現(xiàn)了完全的自主性。
然而，總體來看，這似乎并沒有引起太多人的關(guān)注。我交流過的大多數(shù)人（包括科技領(lǐng)域的?。┥踔炼疾恢肋@一進展。
當你乘坐 Waymo 在舊金山的街道上行駛時，你會發(fā)現(xiàn)很多人對它投以好奇的目光。他們首先會感到驚訝，然后好奇地凝視。之后，他們就會繼續(xù)自己的生活。
當自動駕駛技術(shù)在其他行業(yè)也實現(xiàn)完全自主時，世界可能并不會因此而動蕩不安。
大多數(shù)人可能一開始，甚至都沒意識到這一變化。當他們注意到時，可能只是好奇地看一眼，然后不以為意，這種反應(yīng)從否認到接受都有。
有些人可能會因此感到不安，甚至采取一些抗議行動，比如向 Waymo 汽車前放置交通錐這樣的舉動。
當然，到目前為止，我們距離見證這一現(xiàn)象完全上演還很遙遠。但當它發(fā)生時，我期望它在很大程度上具有預(yù)測性。
經(jīng)濟影響
當我們討論就業(yè)時，不可否認，Waymo 明顯地取代了駕駛員的崗位。
但同時，它也催生了許多以前不存在的工作崗位，這些崗位相對不那么顯眼 —— 比如為神經(jīng)網(wǎng)絡(luò)收集訓(xùn)練數(shù)據(jù)的標注人員、遠程協(xié)助遇到問題汽車的客服人員、負責(zé)建造和維護車隊的工作人員等等。
首先誕生的是一個包含各種傳感器和相關(guān)基礎(chǔ)設(shè)施的全新行業(yè)，旨在構(gòu)建這些裝備精密的高科技汽車。
正如人們對工作的普遍看法一樣，許多崗位都將發(fā)生改變，一些崗位會因此消失，但也會出現(xiàn)很多新的崗位。
這其實是工作形態(tài)的一種轉(zhuǎn)變，而非簡單的崗位減少，盡管崗位減少是最直觀的變化。
雖然很難說總體就業(yè)人數(shù)不會隨著時間推移而減少，但這種變化的速度比人們簡單預(yù)想的要慢得多。
競爭環(huán)境
最后，我想談?wù)勛詣玉{駛領(lǐng)域的競爭環(huán)境。
幾年前，自動駕駛汽車公司如雨后春筍般涌現(xiàn)。但今天，隨著人們逐漸意識到這項技術(shù)的復(fù)雜性（我個人認為，基于當前的人工智能和計算技術(shù)，實現(xiàn)自動化仍然十分困難），這個領(lǐng)域已經(jīng)經(jīng)歷了大規(guī)模的整合。
其中，Waymo 成為了首個完整展示自動駕駛未來的公司。
盡管如此，還有一些公司仍在緊追不舍，比如 Cruise、Zoox，以及我個人特別喜歡的 Tesla。
這里我要簡單提一下，基于我在這個領(lǐng)域的經(jīng)歷和參與。在我看來，自動駕駛行業(yè)的終極目標是實現(xiàn)全球范圍內(nèi)的完全自動駕駛。
Waymo 選擇了先實現(xiàn)自動駕駛再全球擴展的策略，而 Tesla 則是先全球布局再逐步提升自動駕駛技術(shù)。
顯然，這兩家公司將會面臨截然不同的調(diào)整：一家主要是軟件方面的工作，另一家則是硬件方面的工作。
目前，我對他們的產(chǎn)品都非常滿意，個人而言，我更是對技術(shù)本身充滿了支持。
同樣的，很多其他行業(yè)也可能經(jīng)歷一個快速增長和擴張的階段（就像大約在 2015 年的自動駕駛領(lǐng)域），但最終，可能只有少數(shù)幾家公司在這場競爭中存活下來。
在這個過程中，將會有許多實用的 AI 輔助工具（比如現(xiàn)在的 L2 ADAS 功能）和一些開放平臺（比如 Comma）得到廣泛應(yīng)用。
通用人工智能（AGI）
以上就是我對通用人工智能（AGI）未來發(fā)展的大致設(shè)想。
想象一下，這樣的變革將以不同的速度遍布整個經(jīng)濟體，并伴隨著許多難以預(yù)料的相互影響及連鎖反應(yīng)。
雖然這個設(shè)想可能不盡完美，但我認為它是一個值得記住并有益參考的模型。
從模因（memetic）的角度來看，AGI 與那種逃離我們控制、在網(wǎng)絡(luò)空間自我遞歸提升、制造致命病原體或納米機器人、最終把銀河系變?yōu)榛疑迟|(zhì)的超級智能相去甚遠。
相比之下，它更像是自動駕駛技術(shù)的發(fā)展 —— 一項正在快速推進且能改變社會的自動化技術(shù)。其發(fā)展速度會在包括受教育的勞動力資源、信息、材料、能源，以及監(jiān)管等多個方面受到限制。
在這之中，社會既是觀察者也是參與者。
世界不會因此崩潰，而是會適應(yīng)、變化并重新構(gòu)建。
就自動駕駛本身而言，交通自動化將大大提升安全性，城市將變得更加清新、通暢，而那些占據(jù)道路兩旁的停車場和停放的汽車將逐漸消失，從而讓出更多的空間。
對于通用人工智能（AGI）帶來的所有這些可能的變革，我個人是充滿期待的。
網(wǎng)友熱議
總而言之，Karpathy 將 AGI 看作更像是自動駕駛的發(fā)展，這一具體類比的觀點，引發(fā)了眾多網(wǎng)友的討論。
「看到那個無法交付 FSD 的人，決定將 FSD 與 AGI 進行類比，實際上確實給了我信心，我們還有幾十年的時間」。
是啊，他好像忘記了「G」。我記得 Norvig 在幾十年前的人工智能著作中曾說過，「智能」并不意味著無所不能，一個智能體要想有用，解決一個小問題就足夠了。在我看來，這就是 G 的由來。
而我們現(xiàn)在卻突然又回到了以前那個狹隘的定義？我仍然看不到從 LLM 和自動駕駛到 AGI 的路徑。
當然，AGI 的發(fā)展可能是漸進而緩慢的，就像我們看到 Waymo 打造自動駕駛汽車一樣。但這只是眾多方式中的一種，你也可以看到 AGI 通過非常不同的方式突然出現(xiàn)，就像通過擴展大規(guī)模 LLM 那樣。
參考資料：
https://web.archive.org/web/20240122062223/https://karpathy.github.io/2024/01/21/selfdriving-agi/
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。