近日，DeepMind 的創(chuàng)始人 Demis Hassabis 作客 Lex Fridman 的播客節(jié)目，談了許多有趣的觀點。
在訪談的一開頭，Hassabis 就直言圖靈測試已經過時，因為這是數十年提出來的一個基準，且圖靈測試是根據人的行動與反應來作判斷，這就容易出現類似前段時間谷歌一工程師稱 AI 系統(tǒng)已有意識的“鬧劇”：研究者與一個語言模型對話，將自己的感知映射在對模型的判斷上，有失客觀。
從 2015 年成立至今，DeepMind 在人工智能領域的發(fā)展給世界帶來過一次又一次的驚喜：從游戲程序 AlphaGo 到蛋白質預測模型 AlphaFold，深度強化學習的技術突破解決了困擾人類科學家多年的重大科學問題，其背后團隊的思考與動力，讓人神往。
在 Hassabis 的這次訪談中，他還談到一個有趣的觀點，即 AI 超越人類的智能局限。當人類可能已經習慣這個有時間的三維世界，AI 也許可以達到從十二維理解世界的智能，擺脫工具的本質，因為我們人類對世界的理解也還存在許多不足之處。
以下是對 Demis Hassabis 的訪談整理：
1 從游戲到 AI
Lex Fridman：你是從什么時候開始喜歡上編程的？
Demis Hassabis：我大約 4 歲開始下棋，8 歲時用在一場國際象棋比賽中獲得的獎金買了我的第一臺電腦，一臺 zx spectrum，后面我買了關于編程的書。我在一開始用電腦制作游戲時就愛上了計算機，覺得它們非常神奇，是自己思想的延伸，你可以讓它們做一些任務，隔天睡醒回來時它就已經解決了。
當然，所有機器在某種程度上都能做到這一點，增強我們的自然能力，例如汽車讓我們的移動速度超過奔跑速度。但人工智能是機器能夠做所有學習的最終表現，因此，我的想法也很自然地延伸到了人工智能。
Lex Fridman：你是什么時候愛上人工智能的呢？什么時候開始了解到，它不只可以在睡覺的時候寫程序、做數學運算，還可以執(zhí)行比數學運算更復雜的任務？
Demis Hassabis：大概可以分為幾個階段。
我是青少年國際象棋隊的隊長，在大概 10 歲、11 歲的時候打算成為一名職業(yè)棋手，這是我的第一個夢想。12 歲時我達到大師級的水平，是世界上排名第二的棋手，僅次于 Judith Pologer。當我試圖提高棋藝，首先需要提高自己的思維過程，思考大腦是如何想出這些想法的？它為什么會犯錯？怎樣才能改善這個思維過程？
就像 80 年代早期和中期的國際象棋計算機，我已經習慣了有一個 Kasparov 的品牌版本，雖然不像今天那么強大，但也可以通過與其練習來達到提高的目的。當時我想，這真是太神奇了，有人把這個棋盤編成程序來下象棋。我買了一本 David Levy 在 1984 年出版的《國際象棋計算機手冊》，這是本非常有意義的書，讓我可以充分了解國際象棋程序是如何制作的。
▲ 圖注：Kasparov，前蘇聯(lián)、俄羅斯職業(yè)國際象棋棋手，國際象棋特級大師
我的第一個人工智能程序是由我的 Amiga 編程的，我寫了一個程序來玩奧賽羅逆向思維，這是一個比國際象棋稍微簡單的游戲，但我在當中使用了國際象棋程序的所有原則，即 α-β 搜索等。
第二個階段是在我 16、17 歲左右時設計的一個叫 "主題公園" 的游戲，其中涉及到 AI 在游戲中模擬，盡管以今天的 AI 標準來看它很簡單，但它會對你作為玩家的游戲方式做出反應，因此它也被稱為沙盒游戲。
Lex Fridman：可否說一些你同 AI 的關鍵聯(lián)系？在游戲中創(chuàng)建 AI 系統(tǒng)需要什么？
Demis Hassabis：在我還是個孩子時就在游戲中訓練自己，后面經歷了一個設計游戲和編寫 AI for 游戲的階段。我 90 年代寫的所有游戲，都以人工智能為核心組成部分。之所以在游戲行業(yè)這么做，是因為當時我認為游戲行業(yè)是技術的最前沿，像 John Carmack 和 Quake，好像都是在游戲中進行的。我們仍在從當中獲取好處，像 GPU，是為計算機圖形而發(fā)明的，但后來被發(fā)現對 AI 有重要作用。所以當時我認為，游戲中擁有最前沿的人工智能。
早期我參與過一個叫 "黑白" 的游戲，它是強化學習在計算機游戲中應用最深刻的例子。你可以在游戲中訓練一個小寵物，它會從你對待它的方式中進行學習，如果你對它不好，那它就會變得刻薄，并對你的村民和你所管理的小部落刻薄。但如果你善待它，它也會變得善良。
Lex Fridman：游戲對善與惡的映射讓我意識到，你可以通過你所做的選擇來確定結局。游戲可以帶來這種哲學意義。
Demis Hassabis：我認為游戲是一種獨特的媒介，作為玩家并不僅僅是被動地消費娛樂，實際上，你是作為一個代表積極參與的。所以我認為這就是游戲在某些方面比其他媒介，例如電影和書籍等更有內涵的原因。
從一開始我們就對 AI 進行了深入的思考，將游戲作為證明和開放 AI 算法的試驗場。這也是 Deepmind 最初使用大量游戲作為主要測試平臺的原因，因為游戲非常高效，也很容易有指標來查看 AI 系統(tǒng)是如何改進的，思考的方向，以及是否在做漸進式地改進。
Lex Fridman：假設我們不能制造一臺能在國際象棋中擊敗人類的機器，那么人們會認為，由于組合的復雜性，圍棋是一個無法破解的游戲。但最終，AI 研究者造出了這臺機器，人類才意識到，我們沒有想象中那么聰明。
Demis Hassabis：這是一段有趣的思考旅程，尤其是當我從兩個角度（AI 創(chuàng)造者與游戲玩家）來理解時，更覺得神奇，同時又有點苦樂參半的感覺。
Kasparov 將國際象棋稱為智能“果蠅”，我蠻喜歡這個形容，因為國際象棋從一開始就與 AI 密切相關。我認為每一位 AI 實踐者，包括圖靈和香農，以及這一領域的所有先輩們，都嘗試過編寫一個國際象棋程序。香農在 1949 年寫了第一個關于國際象棋的程序文檔，圖靈也曾寫過一個著名的國際象棋程序，但由于計算機太慢無法運行，因此他用鉛筆和紙來手動運行程序，跟朋友一起玩。
DeepBlue 的出現是一個重要的時刻，它結合了我喜歡的所有東西，包括國際象棋、計算機和人工智能。1996 年，它打敗了 Garry Kasparov。在那之后，我對 Kasparov 頭腦的印象比對 DeepBlue 印象更深，因為 Kasparov 是人類的頭腦，他不僅可以與計算機在下棋方面達到同一水平，Kasparov 也可以做人類能做的一切，比如騎自行車、說多國語言、參與政治活動等等。
DeepBlue 雖然在國際象棋中有過輝煌時刻，但它實際上是將國際象棋大師的知識提煉成一個程序，無法做其他任何事情。因此我認為該系統(tǒng)中缺少了一些智能的東西，這也是我們嘗試做 AlphaGo 的原因。
Lex Fridman：讓我們簡單地談談國際象棋中關于人類的一面。你從游戲設計的角度提出，象棋之所以吸引人是因為它是游戲。能否解釋一下，在 bishop（國際象棋中的“象”）和 knight（國際象棋中的“馬”）之間是否存在一種創(chuàng)造性的張力？是什么讓游戲具有吸引力，并且能跨越幾個世紀？
Demis Hassabis：我也在思考這個問題。實際上很多優(yōu)秀的象棋玩家并不一定是從游戲設計師的角度去思考這個問題。
為什么國際象棋如此吸引人？我認為一個關鍵的原因是不同棋位的動態(tài)，你可以分辨出它們是封閉的還是開放的，想一下象和馬的移動方式有多么不同，而后國際象棋在已經進化到平衡這二者的程度，大致都是 3 分。
Lex Fridman：所以你認為動態(tài)總是存在的，而剩下的規(guī)則是試圖穩(wěn)定游戲。
Demis Hassabis：也許這有點像雞生蛋還是蛋生雞的情況，但二者達到一種美麗的平衡，象和馬和騎士權力不同，但在整個宇宙的位置中其價值是相等的。過去的幾百年里，它們一直被人類所平衡，我認為這賦予了游戲創(chuàng)造性的張力。
Lex Fridman：你認為 AI 系統(tǒng)能吸引人類去設計游戲嗎?
Demis Hassabis：這是個有趣的問題。如果把創(chuàng)造力定義為想出一些原創(chuàng)的、對某個目的有用的東西，那么最低水平的創(chuàng)造力就像一個插值表達，基礎的 AI 系統(tǒng)都具備這樣的能力。給它看數百萬張貓的照片，然后給我一只普通的貓，這個被稱之為插值。
還有像 AlphaGo，它可以推斷。AlphaGo 與自己對弈了數百萬場后想出了一些非常棒的新點子，比如在對弈中走 37 步，提供了一個人類從未想到的策略，盡管我們已經玩了上百數千年。
在此之上還有一個層次，就是能否跳出思維定式做真正的創(chuàng)新。你能發(fā)明象棋，而不是想出一個棋步么？是否能發(fā)明國際象棋、或其他和國際象棋或圍棋一樣的東西？
我認為有一天 AI 可以做到，而現在的問題是如何給一個程序指定這個任務。我們還不能把高層次抽象概念具體到人工智能系統(tǒng)中，它們在真正理解高層次的概念或抽象概念方面仍然缺少一些東西。就目前而言，它們可以組合和構成，AI 能夠做插值和推斷，但都不是真正的發(fā)明。
Lex Fridman：提出規(guī)則集并優(yōu)化，圍繞這些規(guī)則集制定復雜的目標，是我們目前無法做到的。但是否可以采用一個特定的規(guī)則集并運行，觀察 AI 系統(tǒng)從頭開始學習的時間有多長？
Demis Hassabis：實際上我考慮過，這對于游戲設計師來說是驚人的。如果有一個系統(tǒng)拿你的游戲玩上千萬次，也許一夜之間就能實現自動平衡規(guī)則?？梢酝ㄟ^方程或參數來調整游戲中的單位或規(guī)則，使游戲更平衡。這有點像給出一個基本集，通過蒙特卡羅方法搜索或類似的方法來探索，那將是超級強大的工具。
而為了自動平衡，通常需要從數百場比賽中訓練數千小時，平衡像星際爭霸、暴雪等這樣的游戲是令人震驚的，這需要測試人員年復一年的時間。所以可以想象，當某個時刻這些東西變得足夠有效，你可能會想在一夜之間做到。
Lex Fridman：你認為我們是生活在模擬（Simulation）中嗎？
Demis Hassabis：是的。Nick Bostrom 首次提出了著名的模擬理論，但我不太相信它。從某種意義上說，我們是在某種電腦游戲中，或者我們的后代以某種方式在 21 世紀重塑地球。
理解物理學和宇宙的最佳方式是從計算的角度將其理解為信息宇宙，實際上，信息是現實的最基本單位。與物質或能量相比，物理學家會說 E=mc2，這是宇宙的基礎。但我認為，信息可能是描述宇宙的最基本方式，它本身可以指定能量或物質正確的物質。因此可以說我們處于某種模擬中。但我不同意這些想法丟棄數十億個模擬。
Lex Fridman：基于你對通用術語機器的理解、對計算機的理解，你認為宇宙中存在計算機能力之外的東西嗎？你并不認同 Roger Penrose （數學物理學家）的意見？
Demis Hassabis： Roger Penrose 很有名，曾參與過許多精彩的辯論，我讀過他的經典著作《皇帝新腦》，他解釋大腦中的意識還需要更多量子的東西。我工作中也一直在思考我們正在做什么，實際上，我們正將圖靈機或經典計算推向極限。經典計算的極限是什么？我也研究了神經科學，這是我博士選擇這一方向的原因，從神經科學或生物學的角度來看大腦中是否有量子存在。
到目前為止，大多數神經科學家和生物學家會說，沒有證據表明大腦中有任何量子系統(tǒng)或效應，大多可以用經典理論和生物學方面的知識來解釋。但與此同時，從圖靈機可以做的事情開始，包括 AI 系統(tǒng)，這個過程是一直在進行的，尤其是在過去的十年里。我不敢打賭通用圖靈機和經典計算范式能走多遠，但大腦中發(fā)生的事情或許可以在機器上模仿，而不需要形而上學或量子的東西。
2 Al for science
Lex Fridman：下面我們談談 AlphaFold，你認為人類思維都來自于這種類似神經網絡的、生物的計算糊狀物，而非直接在精神上工作？
Demis Hassabis： 在我看來，宇宙中最大的奇跡就是我們頭骨里只有幾磅的糊狀物，它也是大腦和目前所知宇宙中最復雜的物體。我認為這是一臺令人驚奇的高效機器，這也是我一直想構建 AI 的原因之一。通過構建像 AI 這樣的智能體，將其與人類思維進行比較，或能幫助我們歷史以來一直想知道的心靈的獨特性，和真正的秘密、意識、做夢、創(chuàng)造力、情感等一切事物。
現在有了大量的工具來實現這件事。所有的神經科學工具、FMI 機器都可以記錄，也有 AI 計算能力可以建立智能系統(tǒng)。人類思維所能做的事情令人驚訝，人類創(chuàng)造了像計算機這樣的東西，并思考和研究這些問題，也都是對人類頭腦的證明，有助于我們更清晰地了解宇宙和人類的思想。甚至可以說，我們或許是宇宙嘗試和理解自己美麗的機制所在。
從另一個角度看，生物學的基本構件也可以用于理解人類思想和身體，從基本構建開始模擬和建立模型是件很神奇的事情，你可以構建越來越大的、更復雜的系統(tǒng)，甚至是整個人類生物學。
還有一個被認為不可能解決的問題，就是蛋白質折疊，而 AlphaFold 解決了蛋白質折疊問題，這是結構生物學史上最大的突破之一。蛋白質是所有生命都必不可少的，身體每一個功能都依賴于蛋白質。
蛋白質由它們的基因序列（也被稱為氨基酸序列）指定，可以將其視為它們的基本構件。它們會在身體中、在自然界中折疊成一個三維結構，這個三維結構決定了它在身體中的功能。此外，如果你對藥物或疾病感興趣，想用一種藥物化合物來阻斷蛋白質的作用，前提是要了解蛋白質表面結合點的三維結構。
▲ 圖注：2021 年 7 月，DeepMind 首次通過與歐洲分子生物學實驗室（EMBL）合作建立的數據庫公開發(fā)布 AlphaFold 預測結果，初始數據庫包含了所有人類蛋白質的 98%
Lex Fridman：蛋白質折疊問題的本質是，你能從氨基酸序列中得到一維的字母串嗎？能通過計算立即預測出三維結構嗎？這是 50 多年來生物學界的一個重大挑戰(zhàn)。1972 年的諾貝爾獎獲得者 Christian Anfinsen 首次闡述，他推測，從氨基酸序列到三維結構是可以實現的。
Demis Hassabis： Christian Anfinsen 的這句話開啟了整個計算生物學的 50 個邊緣領域，他們被困在當中、并沒有完成得很好。
在 AlphaFold 出現之前，這都是通過實驗來完成的，讓蛋白質結晶是件非常困難的事情，有些蛋白質不能像膜蛋白那樣結晶，必須使用昂貴的電子顯微鏡或 X 射線晶體分析儀，才能得到三維結構并將其結構可視化。有了 AlphaFold 后，兩個人就能在幾秒鐘內預測出三維結構。
Lex Fridman：有一個數據集，它在這個數據集上進行訓練，以及如何映射氨基酸。令人難以相信的是，這個小的化學計算機能以某種分布式方法來計算，且算得非?？?。
Demis Hassabis： 或許我們該討論一下生命的起源。實際上，蛋白質本身是一個神奇的小生物和動物機器。提出列文塔爾悖論的科學家 Cyrus Levinthal 大致計算了一下，一般的蛋白質可能有 2000 個氨基酸堿基長，可以有 10 到 300 種不同的蛋白質折疊方式。而在自然界中，物理學以某種方式解決了這個問題，蛋白質會在幾毫秒、或是一秒的時間內，在你的身體中折疊起來。
Lex Fridman：該序列有獨特的方式來自我形成，它找到了一種在巨大可能性中保持穩(wěn)定的方式。某些情況下可能會出現功能失調等情況，但大多時候是獨特的映射，而這種映射并不明顯。
Demis Hassabis：如果是健康通常有一個獨特的映射，那患病時，究竟問題出在哪里。例如，曾經有一個對阿爾茨海默氏癥的猜想是，因為以錯誤的方式折疊 β-淀粉樣蛋白導致折疊錯位，以至于在神經元中糾纏在一起。
因此，要了解健康、功能和疾病，就需要了解它們是如何結構化的，知道這些東西在做什么超級重要。下一步是當蛋白質與某些東西相互作用時，它們會改變形狀。因此在生物學中，它們不一定是靜態(tài)的。
Lex Fridman：或許你可以給出一些解決 AlphaFold 的方法，與游戲不同，這是真正的物理系統(tǒng)。這當中什么是非常難解決的？有哪些跟解決方案是相關的？
Demis Hassabis：AlphaFold 是迄今為止我們構建的最復雜、可能也是最有意義的系統(tǒng)。
我們起初構建的 AlphaGo 和 AlphaZero 都是與游戲相關，但最終目標不僅僅是破解游戲，而是使用它們來引導通用學習系統(tǒng)，并應對現實世界的挑戰(zhàn)。我們更多是希望致力于像蛋白質折疊這樣的科學挑戰(zhàn)，AlphaFold 是我們的第一個重要證明點。
就數據來說，創(chuàng)新數量大概需要 30 多種不同的組成算法，放在一起來破解蛋白質折疊。一些重大的創(chuàng)新是圍繞物理學和進化生物學，建立了硬編碼來約束像蛋白質中鍵角之類的東西，但不會影響學習系統(tǒng)，因此，系統(tǒng)仍能從案例中學習物理。
假設只有大約 15 萬個蛋白質，即使經過 40 年的實驗，也大概只有約 5 萬種蛋白質結構會被發(fā)現。訓練集比通常使用的數據量要少得多，但當中使用了像自我提取等各種技巧。因此，使用 AlphaFold 做一些非常有信心的預測時，將其放回訓練集中使訓練集更大，對 AlphaFold 工作至關重要。
實際上，為了解決這個問題，需要進行大量的創(chuàng)新，AlphaFold 產生的是一個直方圖，一種蛋白質中所有分子之間的成對距離的矩陣，它們必須是一個單獨的優(yōu)化過程來創(chuàng)建三維結構。要使 AlphaFold 真正地從端到端，可直接從氨基酸的堿基序列到三維結構，跳過中間步驟。
從機器學習中也可以發(fā)現，越是端到端，就越能使系統(tǒng)變得更好，系統(tǒng)比人類設計者更善于學習約束條件。在這種情況下，三維結構要比有中間步驟更好，因為那必須手工進入下個步驟。最好的辦法是讓梯度和學習一直流經系統(tǒng)，從終點到想要的最終輸出，再到輸入。
Lex Fridman：關于 AlphaFold 的設想，那或許是生物學中一個漫長旅程的早期步驟，你認為同樣的方法是否預測更復雜的生物系統(tǒng)的結構和功能、多蛋白質相互作用；其作為一個起點，能模擬越來越大的系統(tǒng)，最終模擬像人的大腦、人體這樣的東西嗎？你認為這是一個長期的愿景嗎？
Demis Hassabis：當然，一旦我們有了足夠強大的生物學系統(tǒng)，治療疾病和理解生物學就是我的 To Do List 上的首要任務，這也是我親自推動 AlphaFold 的原因之一，AlphaFold 只是一個開始。
AlphaFold 解決了蛋白質結構這個巨大的問題，但生物學是動態(tài)的，我們所研究的所有東西都是蛋白質液體結合。與分子發(fā)生反應，搭建通路，最終形成一個虛擬細胞，那是我的夢想。我一直同很多生物學朋友交談，其中就包括了克里克研究所的生物學家 Paul Nurse。對生物學和疾病發(fā)現來說，構建一個虛擬細胞是不可思議的，因為你可以在虛擬細胞上進行大量實驗，最后階段再進入實驗室來驗證。
就發(fā)現新藥而言，從確定目標到擁有一個候選藥物大約需要 10 年時間，如果能在虛擬細胞中完成大部分工作，或許可以將時間縮短一個數量級。為了實現虛擬細胞，必須建立對生物學不同部分相互作用的理解。每隔幾年，我們就會與跟 Paul 談論這個問題。去年在 AlphaFold 之后，我說現在終于是我們可以去做的時候了，Paul 非常激動。我們與他的實驗室有一些合作。在 AlphaFold 的基礎上，相信生物學會有一些驚人的進步，目前也可以看到，在 AlphaFold 開源之后已經有社區(qū)在做了。
我認為有一天，人工智能系統(tǒng)可能會解決像廣義相對論這樣的問題，而不僅僅是通過對互聯(lián)網或公共醫(yī)療上的內容進行處理。這將非常有趣，看它會能夠想出什么。這有點像我們之前關于創(chuàng)造力發(fā)明圍棋的辯論，不是僅僅想出一個好的圍棋動作。如果想要獲得像諾貝爾獎的獎項，那它需要做的是發(fā)明圍棋，而不是由人類科學家或創(chuàng)造者來指定。
Lex Fridman：很多人確實把科學看作是站在巨人的肩膀上，而問題是你在巨人的肩膀上真正達到了多少？也許它只是吸收了過去的不同類型的結果，最終以新的視角提供了突破性的想法。
Demis Hassabis：這是一個很大的謎團，我相信在過去十年甚至未來幾十年中，很多新的重大突破都會出現在不同學科領域的交叉點上，在這些看似不相干的領域之間會發(fā)現一些新的聯(lián)系。人們甚至可以認為，深層思維是神經科學思想和 AI 工程思想間的一種交叉學科。
Lex Fridman：你有一篇論文是“通過深度強化學習對托卡馬克等離子體進行磁控制”，所以你在尋求用深度強化學習來解決核聚變，做高溫等離子體的控制。你能解釋一下 AI 為什么最終能解決這個嗎？
Demis Hassabis：過去的一兩年里，我們的工作非常有趣和看到了成效，我們啟動了很多我的夢想項目，這些是我多年來收集的同科學領域相關的項目。如果我們能參與推動，或許能帶來具有變革性的影響，科學挑戰(zhàn)本身就是一個非常有趣的問題。
目前，核聚變面臨許多挑戰(zhàn)，主要在物理、材料、科學和工程等方面，以及如何建造這些大規(guī)模的核聚變反應堆并容納等離子體。
我們與瑞士洛桑聯(lián)邦理工學院（EPFL）和瑞士技術研究所合作，他們有一個測試反應器愿意讓我們使用。這是一個驚人的測試反應堆，他們在上面嘗試各種相當瘋狂的實驗。而我們則看的是，當進入一個新領域如核聚變時，瓶頸問題是什么？從第一原理思考阻礙核聚變運作的底層問題是什么？
在這種情況下，血漿控制是完美的。這個等離子體有 100 萬℃，比太陽還熱，顯然沒有任何材料可以容納它。因此必須有非常強大的超導磁場，但問題是等離子體相當不穩(wěn)定，就像在一個反應堆中持有許多顆星，提前預測等離子體會做什么，你可以在幾百萬秒內移動磁場來控制它接下來會做什么。
如果你把它看作是一個強化學習預測問題，這似乎很完美，有控制器，可以移動磁場和切割，但此前用的是傳統(tǒng)的控制器。我希望有一種可控的規(guī)則是他們不能在當下對等離子體做出反應，必須是硬編碼的。
Lex Fridman：AI 最終解決了核聚變。
Demis Hassabis：去年我們在《自然》雜志上發(fā)表了關于解決這個問題的論文，把等離子體固定在一個特定的形狀。實際上這幾乎就像是把等離子體雕刻成不同的形狀，控制它并保持在那里創(chuàng)紀錄的時間。這是核聚變的一個未解決的問題。
把它包含在結構中并保持，還有一些不同形狀更有利于能量的產生，稱為滴液等等，這是很重要的。我們正與許多核聚變初創(chuàng)公司溝通，看在核聚變領域可以解決的下一個問題是什么。
Lex Fridman：論文標題中還有一個迷人的地方，通過解決分數電子問題來推動密度函數的前沿。你能解釋一下這項工作嗎？AI 在未來能否對任意的量子力學系統(tǒng)進行建模和模擬？
Demis Hassabis：人們試圖寫出密度函數的近似值以及對電子云的描述，觀察兩個元素放在一起時如何相互作用。而我們試圖做的是學習一種模擬，學習一種能夠描述更多化學類型的化學函數。
到目前為止，AI 可以運行昂貴的模擬，但只能模擬非常小和非常簡單的分子，我們無法做到模擬大型材料。因此要建立函數近似值來展示其方程后，描述電子在做什么，所有材料科學和性質都是由電子如何相互作用來控制的。
Lex Fridman：通過功能對模擬進行總結來接近實際模擬出來的結果，這項任務的難度在于運行復雜的模擬，學習從初始條件和模擬參數的映射任務，學習函數會是什么？
Demis Hassabis：這很棘手，但好消息是我們已經做到了，我們可以在計算集群上運行大量的模擬，即分子動力學模擬，由此產生了大量的數據。在這種情況下，數據是生成的。這就是為什么我們使用游戲模擬器來生成數據，因為可以隨心所欲地創(chuàng)造出更多的數據。如果在云端有空閑的電腦，我們就可以運行這些計算。
3 AI 與人類
Lex Fridman：你怎么理解生命起源？
Demis Hassabis：我認為 AI 的最終用途是將科學加速到極致。它有點像知識之樹。如果你想象這就是宇宙中要獲得的所有知識，但目前為止，我們幾乎只觸及了它的表面。AI 會加速這個過程，盡可能多地探索這棵知識樹。
Lex Fridman：直覺告訴我，人類的知識之樹是非常小的，考慮到我們的認知局限。即使有工具，我們仍然不能理解很多事情。這也許是非人類系統(tǒng)能夠走得更遠的原因。
Demis Hassabis：是的，很有可能。
但首先，這是兩件不同的事情。就像我們今天理解了什么，人類的思想能理解什么，我們要理解的整體是什么，這里有三個同心，你可以把它們想象成三棵更大的樹，或者探索這棵樹的更多分支。有了 AI 后我們會探索更多。
現在的問題是，如果你思考一下我們能理解的事物的總體是什么，可能有些事物不能被理解，比如模擬之外的事物，或宇宙之外的事物。
Lex Fridman：因為人類大腦已經習慣了這個有時間的三維世界的狀態(tài)。
Demis Hassabis：但我們的工具可以超越這些。它們可以是 11 維，12 維的。
我經常舉的例子是當我和 Gary Kasparov 下棋時，我們討論過象棋之類的東西，如果你很擅長下棋，你不能想 Gary 他的走法，但他可以給你解釋。你可以將其理解為事后推理。有一個進一步的解釋，也許你不可能發(fā)明這個東西，但你可以理解和欣賞，就像你欣賞維瓦爾第或莫扎特一樣欣賞它的美。
Lex Fridman：我想問一些更瘋狂的問題。比如，你認為地球之外有外星文明嗎？
Demis Hassabis：我個人的看法是，我們目前是孤獨的。我們已經有各種天文望遠鏡和其他探測技術，嘗試著在太空里尋找其他文明的信號，如果現在有許多外星文明在同時做這樣的事，那我們應該聽到來自外太空的嘈雜聲音?？墒聦嵤牵覀兪裁葱盘栆矝]收到。
有很多人會爭辯說，世界上有外星文明，只是我們還沒有真正好好地去搜索，或者說我們找的波段錯誤，也有可能使用了錯誤的設備，我們沒有意識到外星人存在的形式非常不同，等等。但我不同意這些觀點，我們其實已經做了很多探索了，如果真有那么多外星文明，那我們應該早就發(fā)現了。
有趣的是，如果地球是孤獨的文明，從大過濾器（Great Filters）的角度來看，這還挺令人欣慰，這意味著我們已經通過大過濾器的篩選了。
說回你剛才問的生命起源問題，生命起源于一些令人難以置信的事物，而且沒人知道這些事是怎么發(fā)生的。如果在地球以外的地方看到單細胞的某種生命形式，比如細菌，我不會感到驚訝。但就憑其能夠捕獲線粒體并將線粒體為我所用的這個能力，多細胞生命的出現的難度就是空前絕后的。
▲ 圖注：Demis Hassabis 所提到的大過濾器理論
Lex Fridman：你認為需要有意識才能有真正的智能嗎?
Demis Hassabis：我個人認為，意識和智慧是雙重分離的，所以我們可以在沒有智慧的同時實現意識，反過來也一樣。
舉個例子，很多動物是有自我意識的，也會社交和做夢，它們可以被定義為有一定的自我意識，但是它們沒有智慧。但同時，那些在某一任務上非常聰明的人工智能，它們會下象棋，或者執(zhí)行其他任務執(zhí)行得非常好，但是它們沒有任何的自我意識。
Lex Fridman：前段時間谷歌的一個工程師認為某個語言模型是有感知的，你遇到過有感知的語言模型嗎？如果一個系統(tǒng)出現了“感知”，你怎么理解這種情況？
Demis Hassabis：我不覺得目前世界上的任何一個 AI 系統(tǒng)是有意識或者有感知的，這是我每天與 AI 互動的真實感受。所謂感知，更多是我們大腦自己的投射，由于那是一個語言模型，與智慧息息相關，所以人們就很容易把系統(tǒng)擬人化。這也是為什么我認為圖靈測試有缺陷，因為它建立于人的反應和判斷上。
我們應該和頂尖的哲學家談談意識，比如 Daniel Dennett 和 David Charmers，以及其他對意識有深刻思考的人。目前意識還沒有公認的定義，如果讓我來說的話，我覺得意識的定義是，信息得到處理時帶來的感覺。
Lex Fridman：讓我問一個黑暗的私人問題。你說創(chuàng)造一個世界上最強大的超級人工智能系統(tǒng)。正如老話所說，絕對權力導致腐敗，你也很有可能成為其中一員，因為你是最有可能控制這個系統(tǒng)的人。你會考慮這些么?
Demis Hassabis：我每時每刻都在思考有什么能對抗這種腐敗的防御措施。
人類最大利益的工具或技術讓我們進入一個激進的世界，我們面臨著許多艱巨的挑戰(zhàn)。AI 可以幫助我們解決問題，最終使人類走向終極繁榮，甚至找到外星人。而 AI 的創(chuàng)造者，AI 所依賴的文化，AI 擁有的價值觀，AI 系統(tǒng)的構建者都會影響它的發(fā)展。即使 AI 系統(tǒng)會自己學習，但其大部分知識也會帶有一定已有文化和創(chuàng)造者價值觀的殘留。
不同的文化讓我們比以往任何時候都更加分裂，也許當我們進入了一個極度富足的時代以后，資源不那么稀缺了，我們就不需要激烈競爭，而是可以轉向更好的合作。
Lex Fridman：當資源受到重大限制時，一些暴行就會發(fā)生。
Demis Hassabis：資源稀缺是導致競爭和破壞的原因之一，全人類都想生活在善良、安全的世界里，所以我們必須解決稀缺性的問題。
但這還不足以達成和平，因為還有其他東西會產生腐敗。AI 不應該任由僅僅一個人、或者一個組織來運行。我認為 AI 應該屬于世界，屬于人類，每個人都應該對 AI 有發(fā)言權。
Lex Fridman：你對高中生和大學生有什么建議嗎? 如果年輕人有從事 AI 的愿望，或者想以自己的力量影響這個世界，他們應該如何獲得一份自己由衷感到自豪的職業(yè)？如何找到理想的生活？
Demis Hassabis：我總喜歡對年輕人說兩句話，第一句話是，你真正的激情在何處？年輕人應該去盡可能地探索這個世界。在人年輕時，我們有足夠多的時間，還能夠承擔探索帶來的風險。以自己獨特的方式去尋找事物之間的聯(lián)系，我認為這是尋找激情所在的好方法。
第二句話是，了解你自己。要花很多時間去了解自己最佳的工作方式是什么，最佳的工作時間是什么時候，最佳的學習方式是什么?，如何應對壓力。年輕人應該在不同的環(huán)境下測試自己，嘗試改進自己的弱點，找出自己獨特的技能和優(yōu)勢，然后磨練它們，這些就是你以后在這個世界上的價值。
如果你能把這兩件事結合起來，找到自己的激情所在，鍛煉出你自己獨特而強大的技能，那么你就會獲得不可思議的能量，給世界帶來巨大的改變。
廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。