OpenAI 一次性拿出 20% 總算力，投入全新研究方向 ——
超級(jí)智能對(duì)齊（Superalignment）。
先說(shuō)說(shuō) OpenAI 的 20% 總算力什么概念？
光是微軟此前專門(mén)給他們打造的一臺(tái)超級(jí)計(jì)算機(jī)，就有 285000 塊 CPU 和上萬(wàn)塊英偉達(dá) A100 GPU。
外界沒(méi)人知道 OpenAI 現(xiàn)在擁有多少 H100 GPU，只知道他們總?cè)谫Y 113 億美元，還要算上微軟額外提供的 Azure 云算力。
這番大手筆，仿佛直接在科技圈扔下一個(gè)炸彈。
再看這份公告中的微妙用詞區(qū)別：
不是通用人工智能（AGI），甚至干脆去掉了人工二字。
直接越級(jí)瞄準(zhǔn)如何控制超級(jí)智能，其定義為比人類聰明得多的 AI 系統(tǒng)（much smarter than us）。
正文則明晃晃地寫(xiě)著：雖然看起來(lái)還很遙遠(yuǎn)，但我們相信超級(jí)智能將在這個(gè)十年段到來(lái)。
現(xiàn)在是 2023 年下半年，總共留給人類的時(shí)間還有 6 年半。
OpenAI 給自己定的時(shí)限更短，只有 4 年。
控制“奧創(chuàng)”需要“賈維斯”
有網(wǎng)友將 OpenAI 公布的研究方法形容為“賈維斯 vs 奧創(chuàng)”。
OpenAI 明白靠人類自己已無(wú)法完成，提出新概念自動(dòng)對(duì)齊研究員（automated alignment researcher）
也就是先訓(xùn)練一個(gè)大致達(dá)到人類水平的 AI 研究員，再投入大量算力快速迭代。
翻譯一下：先努力達(dá)到技術(shù)奇點(diǎn)，然后直接開(kāi)啟大爆炸。
整個(gè)計(jì)劃的基石，就是先打造第一個(gè)自動(dòng)對(duì)齊研究員。
為此 OpenAI 提出一個(gè)臨時(shí)解決方案，分為三項(xiàng)：
開(kāi)發(fā)一個(gè)可擴(kuò)展的訓(xùn)練方法
為了在人類難以評(píng)估的任務(wù)上提供訓(xùn)練信號(hào)，需要利用 AI 來(lái)協(xié)助評(píng)估其他 AI 系統(tǒng)，稱為“可擴(kuò)展的監(jiān)督”。
驗(yàn)證第一步產(chǎn)生的模型
為了驗(yàn)證系統(tǒng)的一致性，自動(dòng)搜索有問(wèn)題的行為和有問(wèn)題的內(nèi)部結(jié)構(gòu)。
對(duì)整個(gè)管道流程做壓力測(cè)試
通過(guò)故意訓(xùn)練不對(duì)齊的模型來(lái)測(cè)試整個(gè)管道，并確認(rèn)技術(shù)可以檢測(cè)到最糟糕的錯(cuò)誤類型，也就是對(duì)抗性測(cè)試。
為什么說(shuō)是臨時(shí)解決方案？
OpenAI 預(yù)計(jì)隨著對(duì)問(wèn)題進(jìn)一步了解，研究重點(diǎn)將發(fā)生實(shí)質(zhì)性變化，很可能增加全新的研究領(lǐng)域。
再翻譯一下：只能走一步看一步。
首席科學(xué)家?guī)ш?duì)，成立全新部門(mén)
研究頂級(jí)的問(wèn)題需要頂級(jí)的團(tuán)隊(duì)。
OpenAI 聯(lián)創(chuàng)和首席科學(xué)家 Ilya Sutskever 將與此前的對(duì)齊團(tuán)隊(duì)負(fù)責(zé)人 Jan Leike 共同領(lǐng)導(dǎo)新部門(mén)。
而成員不光包括 OpenAI 自己的員工，也包括來(lái)自其它公司的研究人員。
Ilya Sutskever 是 2012 年開(kāi)啟深度學(xué)習(xí)時(shí)代的 AlexNet 作者之一，也是 AlphaGo 作者之一，此前已將 AI 對(duì)齊作為他的核心研究重點(diǎn)，總引用數(shù)超過(guò) 40 萬(wàn)。
Jan Leike 則是 ChatGPT 的前身 InstructGPT 論文作者之一，并且早在 2017 年就參與了 OpenAI 與 DeepMind 合作的人類反饋強(qiáng)化學(xué)習(xí)方法。
Jan Leike 認(rèn)為，OpenAI 此次投資很可能比全人類此前對(duì) AI 對(duì)齊研究的所有投資加起來(lái)還多。
算上這二位，目前新團(tuán)隊(duì)已有 10 位成員。
新一輪招聘也隨之開(kāi)啟，分為研究經(jīng)理（年薪 42 萬(wàn)-50 萬(wàn)美元），研究科學(xué)家與研究工程師（年薪 24.5 萬(wàn)-45 萬(wàn)美元），兩種級(jí)別三個(gè)崗位。
誰(shuí)來(lái)監(jiān)管監(jiān)管者？
對(duì)于 OpenAI 的大動(dòng)作，學(xué)術(shù)界有不同觀點(diǎn)。
認(rèn)同的學(xué)者表示：自然智能通過(guò)競(jìng)爭(zhēng)的進(jìn)化獎(jiǎng)勵(lì)產(chǎn)生，AI 通過(guò)對(duì)齊人類利益的進(jìn)化獎(jiǎng)勵(lì)產(chǎn)生，并期待未來(lái)的效果。
但也有人表示 OpenAI 從根本上就錯(cuò)誤地理解了“對(duì)齊”這個(gè)概念。
他認(rèn)為對(duì)齊不能是強(qiáng)制控制，而應(yīng)該是使雙方利益一致，類似于“堵不如疏”。
有網(wǎng)友吐槽“真不敢相信，AGI 很可能在鴿了很久的《上古卷軸 6》游戲之前到來(lái)?！?/p>
評(píng)論區(qū)有人指出，到時(shí)候你想玩什么游戲讓 AI 去做就好了。
也有網(wǎng)友靈魂發(fā)問(wèn)，誰(shuí)又來(lái)監(jiān)管監(jiān)管者呢？
參考鏈接：
[1]https://openai.com/blog/introducing-superalignment
[2]https://twitter.com/OpenAI/status/1676638358087553024
[3]https://www.reddit.com/r/singularity/comments/14rh1l1/superintelligence_possible_in_the_next_7_years/
本文來(lái)自微信公眾號(hào)：量子位 （ID：QbitAI），作者：夢(mèng)晨
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。