為什么是 OpenAI 首先開發(fā)出像 GPT-4 這樣強(qiáng)大的模型？聯(lián)合創(chuàng)始人 Greg 在接受采訪時透露，團(tuán)隊中不僅僅有學(xué)術(shù)背景的研究型人才，同時還有優(yōu)秀的工程人才，這使得他們能夠從不同的角度解決問題，更有效地推動項目進(jìn)步。
凱文?凱利在《5000 天后的世界》一書中預(yù)測，稱雄 AR 世界的不會是 GAFA—— 如今的科技四大巨頭。
縱觀顛覆性技術(shù)的發(fā)展史，一個領(lǐng)域的主導(dǎo)者從來無法在下一個時代的平臺上繼續(xù)稱雄，因為它們的成功會成為它們最大的桎梏。
事實仿佛真的如此。即便谷歌瘋狂自證在 AGI 領(lǐng)域的實力，但卻只能在 OpenAI 身后追趕。
為什么大企業(yè)無法創(chuàng)新？為什么是 OpenAI 首先開發(fā)出像 GPT-4 這樣強(qiáng)大的模型？即使像 Google、Meta 有那么雄厚的資本，那么多人才儲備也沒有做到？
5 月 15 日，可汗學(xué)院（Khan Academy）的 CEO 兼創(chuàng)始人薩爾曼?可汗（Sal Khan）對 OpenAI 聯(lián)合創(chuàng)始人兼總裁格雷格?布羅克曼（Greg Brockman）進(jìn)行了一段采訪，這段采訪或許能夠幫助我們找到答案。
研究與工程并重
OpenAI 日前向公眾揭秘了 Omni 團(tuán)隊，團(tuán)隊成員年齡和司齡的年輕化，以及團(tuán)隊管理的扁平化引發(fā)了網(wǎng)友熱議。其實在成員組合方面，也「暗藏玄機(jī)」。
OpenAI 的團(tuán)隊不僅有學(xué)術(shù)背景的研究型人才，同時還有優(yōu)秀的工程人才，這種組合使他們能夠從不同的角度解決問題，更有效地推動項目進(jìn)步。
Khan 詢問 Brockman「你們認(rèn)為自己做了什么才能達(dá)到如今的地位？在這個領(lǐng)域，有許多人在努力工作，也有許多資源雄厚的大型組織。你們認(rèn)為自己做了什么與眾不同？是因為你們的方法不同，還是有其他原因？」
Greg Brockman 坦言「這是個很好的問題。我認(rèn)為我們是更大趨勢或歷史的一部分?；仡欉^去 70 年的計算機(jī)發(fā)展史，我們經(jīng)歷了指數(shù)級的增長?！?/p>
「2000 年，Ray Kurzweil 曾經(jīng)說過，看看計算能力，它會告訴你什么是可能的。這就是推動進(jìn)步的動力。起初大家都認(rèn)為他瘋了，但現(xiàn)在我相信大家基本上都認(rèn)同他的觀點(diǎn)?！?/p>
「想想我們?yōu)榱藢崿F(xiàn)像 GPT-4 這樣的項目，付出了多少工程上的努力，從計算基礎(chǔ)設(shè)施到使用的所有數(shù)據(jù)集和工具，這其實是全人類在很多方面的巨大努力?！?/p>
「具體來說，我們能取得這些成就，是因為我們聚集了來自研究和工程背景的優(yōu)秀人才?！?/p>
「當(dāng)我們開始這個項目時，讓我感到非常有趣的是觀察其他實驗室的工作方式。你會發(fā)現(xiàn)，大多數(shù)實驗室以研究為主，研究型工程師被告知要做什么，而研究科學(xué)家則可以隨心所欲?！?/p>
「這種方式似乎并不是實際構(gòu)建一個工作系統(tǒng)的方法，更像是為了追求論文引用數(shù)量。如果你真的想產(chǎn)生影響并開發(fā)出有用的東西，你需要以不同的方式來組織團(tuán)隊?！?/p>
「雖然說起來很簡單，但實際上，這涉及到很多相互沖突的思維方式，特別是當(dāng)你來自不同背景時。」
我們必須盡力去解決這些問題，雖然你永遠(yuǎn)不能完全解決它們，但可以不斷進(jìn)步并挑戰(zhàn)更復(fù)雜的版本。這就是我們需要勇于面對困難、勇于挑戰(zhàn)的地方?！?/p>
不會因為風(fēng)險的存在而止步不前
建立造福人類的 AGI
Greg Brockman 第一次對人工智能的概念感到興奮，是在他讀到阿蘭?圖靈（Alan Turing）1950 年發(fā)表的關(guān)于圖靈測試的論文的時候。
他想看看，我們是否能夠真正制造出圖靈所說的那種機(jī)器，一種人類水平的智能，也就是我們所說的 AGI，并讓它造福于全人類。
這是 OpenAI 誕生的緣起，也是它的使命和愿景。
為了這個目標(biāo)，OpenAI 已經(jīng)工作了 8 年。在這期間，OpenAI 一直在做同樣的事情 —— 建立更大的神經(jīng)網(wǎng)絡(luò)，讓它更有能力，更協(xié)調(diào)、更安全，與此同時，部署這項技術(shù)，并使其發(fā)揮作用。
Greg Brockman 稱「這就是我認(rèn)為這項技術(shù)最吸引我的地方，每走一步，你都能真正產(chǎn)生影響，真正開始造福人類。你會看到你所建立的東西帶來的好處，并真正學(xué)會如何減少所有的不利因素?！?/p>
迎戰(zhàn)新的風(fēng)險
當(dāng) Khan 問及 AI 的安全性問題，Brockman 這樣回答「AI 的安全問題有著悠久的歷史，早在 50-60 年代，阿瑟?克拉克這樣的人就在談?wù)撨@個問題。」
「我認(rèn)為，對 AI 擁有這種復(fù)雜的情感是非常正確的，我們既要對任何新事物感到驚奇，又要問這是要去哪里，哪里會有陷阱？我認(rèn)為只有這樣，我們才能正確地在這個空間里航行?！?/p>
Brockman 提到，一件非常有趣的事情是，AI 是如何變得看起來「令人驚訝」的？
在 90 年代，每個人都認(rèn)為，如果 AI 可以下棋，就說明進(jìn)入了 AGI 時代，但實際上，這只是我們要解決的第一件事情，AI 學(xué)會下棋并沒有讓我們真正走得更遠(yuǎn)。
安全性問題也是一樣。并不是說對 AI 安全的前瞻性的擔(dān)憂一定不會發(fā)生，但 Brockman 認(rèn)為，我們在錯誤的事情上過于自信了。
他舉了一個例子：對于 GPT-3，OpenAI 只是在基礎(chǔ)數(shù)據(jù)集上進(jìn)行訓(xùn)練后就將其發(fā)布，而對于 GPT-4，團(tuán)隊則對模型進(jìn)行了調(diào)整，盡力消除偏見。
事實上 OpenAI 在 2017 年就開始開發(fā)這項技術(shù)，當(dāng)時這些模型還沒有出現(xiàn)。
現(xiàn)在，GPT-4 帶來了一類新的風(fēng)險，未來還會出現(xiàn)更多新的風(fēng)險。風(fēng)險和益處將會并存，關(guān)鍵是如何學(xué)會如何面對這種風(fēng)險。
在實踐中學(xué)習(xí)
當(dāng)我們在思考 GPT 對教育領(lǐng)域的影響的時候，一些人可能會首先注意到抄襲的問題，Brockman 也承認(rèn)讓學(xué)生獨(dú)立思考非常重要。
但是「對于那些無法獲得出色的教育工具的人來說，ChatGPT 是一個工具。教師可以根據(jù)自己的喜好，幫助學(xué)生進(jìn)行某種工作并填補(bǔ)教育人員無法做到的空白?！?/p>
至于如何制定規(guī)則，如何將這項技術(shù)融入教育，則需要「獲得大量的意見，與大量的教育工作者接觸。OpenAI 不是這項事業(yè)唯一的決定者，從每個人那里獲得廣泛的意見很重要?！?/p>
「我們?yōu)榱藢崿F(xiàn)真正的益處，和一線的教育工作者交談，真正弄清楚他們想要什么?！?/p>
我們還需要「真正展示積極面」。
一旦你有了一個有效的正面例子，就很容易圍繞它建立標(biāo)準(zhǔn)，如果沒有這個，那么就相當(dāng)于「在黑暗中開槍」。
就像采訪者 Khan 談到的，ChatGPT 對教育的影響取決于怎樣使用，比方說我們可以用它來采訪歷史人物、練習(xí)辯論技巧等。
更多正面使用的案例和經(jīng)驗需要在實踐中獲得。
去年 OpenAI 發(fā)布了一篇關(guān)于部署語言模型安全標(biāo)準(zhǔn)的博客文章，這篇文章的形成用了 2 年的時間。Brockman 告訴 Khan「這種從實踐中學(xué)習(xí)的迭代部署，是我們現(xiàn)在可以做的最重要的事情」。
每個人都可以獲得 AI 的「超能力」
人工智能究竟會削弱人類能力，還是增強(qiáng)人類能力？
Brockman 和 Khan 都站在人工智能會增強(qiáng)人類能力的這一邊。
Brockman 樂觀地說「現(xiàn)在，擁有一部智能手機(jī)就可以開始以一種方式進(jìn)行創(chuàng)作，而你之前必須購買一堆專業(yè)軟件，你必須去學(xué)校接受大量的培訓(xùn)?！?/p>
「我認(rèn)為我們都可以獲得人工智能的超能力，我們可以實現(xiàn)我們想要的目標(biāo)」。
當(dāng)然，關(guān)于這個問題，每個人都可以有自己的答案，但 Greg Brockman 無疑是一個樂觀主義者，這或許也是 OpenAI 不斷向前的原因所在。
樂觀是油門，悲觀是剎車，兩者都不可或缺，但是想要前進(jìn)，我們必須多踩油門而不是剎車。
參考資料：
https://x.com/dotey/status/1791685313670119586
https://www.youtube.com/watch?v=z0S1ORbbQUU
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。