AI 大牛何愷明有了最新動(dòng)向,而且是回歸學(xué)術(shù)界。
MIT CSAIL 實(shí)驗(yàn)室發(fā)布公告,3 月 13 日下周一,何愷明將到 MIT 做學(xué)術(shù)演講。
此事引起 AI 圈廣泛關(guān)注。在相關(guān)知乎問題下,MIT 博士 @Charles 指出,何愷明參加的這個(gè)研討會(huì)全是 Job Talks(求職演講)。
杜克大學(xué)教授陳怡然也表示,一直聽說何愷明在尋找教職,現(xiàn)在終于能確認(rèn)了。
求職演講是學(xué)術(shù)界一大傳統(tǒng),指申請(qǐng)博士或教職者到校做學(xué)術(shù)報(bào)告,內(nèi)容是他們自己的研究成果,通常正是在每年三四月份集中進(jìn)行。
并且進(jìn)入這個(gè)階段,就代表何愷明至少已經(jīng)通過了簡(jiǎn)歷篩選,研究成果和能力受到了 MIT 的認(rèn)可。
還有網(wǎng)友預(yù)測(cè),鑒于之前李飛飛到 MIT 演講座無虛席,何愷明這回講座恐怕也會(huì)非常火爆,成為深度學(xué)習(xí)大型追星現(xiàn)場(chǎng)。
但也有網(wǎng)友在評(píng)論區(qū)補(bǔ)充到,這不代表最終何愷明就會(huì)選擇去 MIT,也可能會(huì)去其他學(xué)校,但總之在找教職基本可以確定了。
或成為全 MIT 引用最高的人
雖然不確定何愷明最終的選擇,但眼尖的網(wǎng)友已經(jīng)發(fā)現(xiàn),如果他真去了 MIT,被引用次數(shù)將成為全校最高。
目前,MIT 全校被引用次數(shù)最高的,是化學(xué)與生物醫(yī)學(xué)工程系的重量級(jí)教授 Robert Langer,次數(shù)為 38 萬 +。
而何愷明被引用次數(shù)高達(dá) 40 萬 +。
盡管不同學(xué)科無法直接這么對(duì)比,但何愷明的引用次數(shù)實(shí)在是太引人注目了。
有網(wǎng)友表示,雖然引用量不一定能說明太多問題,不過“引用量是天文數(shù)字的一定是大神”。
要論何愷明最高引研究,必須是 ResNet。在 2021 年底突破 10 萬大關(guān),如今已經(jīng)漲到 15 萬。
ResNet 本身雖為計(jì)算機(jī)視覺領(lǐng)域研究,但其核心思想殘差連接已經(jīng)跨界成為現(xiàn)代深度學(xué)習(xí)模型的基本組件。
開啟上一次 AI 熱潮的 AlphaGo Zero 就是結(jié)合了 ResNet + 強(qiáng)化學(xué)習(xí) + 蒙特卡洛搜索共同完成。
而開啟最新 AI 熱潮的 ChatGPT,其中的“T”也就是 Transformer 網(wǎng)絡(luò)中同樣使用了殘差連接。
在計(jì)算機(jī)視覺上,何愷明的主要貢獻(xiàn)還包括 Faster R-CNN 及后續(xù)的 Mask R-CNN 等一系列研究,在很多年都是目標(biāo)檢測(cè)的主流方法。
他的近期主要研究興趣是無監(jiān)督學(xué)習(xí),21 年底提出的 MAE,將語言模型的掩碼預(yù)訓(xùn)練方法用在視覺模型上,為視覺大規(guī)模無監(jiān)督預(yù)訓(xùn)練大模型開路。
最近他還將掩碼方法引入眾多 AI 繪畫應(yīng)用的基礎(chǔ)模型 CLIP,把訓(xùn)練速度提升了 3.7 倍。
在 MIT 即將進(jìn)行的演講中,何愷明準(zhǔn)備的主題也是“視覺智能”。
包括他在 ResNet、目標(biāo)檢測(cè)方面的成果,以視覺無監(jiān)督學(xué)習(xí)對(duì)未來研究的影響。
至于何愷明可能要加入的 MIT CSAIL (麻省理工計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室),是麻省理工最大的實(shí)驗(yàn)室,也是世界著名的計(jì)算科學(xué)和 AI 實(shí)驗(yàn)室。
這里云集了眾多計(jì)算機(jī)科學(xué)和 AI 領(lǐng)域的知名人物,包括萬維網(wǎng)發(fā)明人 Tim Berners-Lee,分布式計(jì)算和并發(fā)算法專家、圖靈獎(jiǎng)得主 Leslie Lamport 和 Barbara Liskov 等等。
當(dāng) Meta AI 有了產(chǎn)品壓力
何愷明本科就讀于清華大學(xué),博士畢業(yè)于香港中文大學(xué),2011 年他加入微軟亞洲研究院。
自 2016 年起他加入 Facebook AI Research,也就是大名鼎鼎的 FAIR,繼續(xù)研究計(jì)算機(jī)視覺。
但就在最近一年之內(nèi),該部門已發(fā)生兩次重大調(diào)整,都是增強(qiáng)應(yīng)用型研究,削減基礎(chǔ)研究。
去年 6 月,受公司轉(zhuǎn)型元宇宙影響,F(xiàn)AIR 被降級(jí)為元宇宙部門 Reality Labs 的下屬組織。
同時(shí),支持旗下各大 App 的算法團(tuán)隊(duì)轉(zhuǎn)移進(jìn)產(chǎn)品工程團(tuán)隊(duì)。新架構(gòu)給了產(chǎn)品團(tuán)隊(duì)更大權(quán)限,加速技術(shù)的應(yīng)用落地。
今年 2 月底,扎克伯格面對(duì) ChatGPT 熱潮再次做出調(diào)整,宣布成立頂級(jí) AI 產(chǎn)品團(tuán)隊(duì)。
把全公司搞 AIGC 的都集中起來。
多年前,在 LeCun 卸掉 FAIR 管理層、就任首席 AI 科學(xué)家時(shí),還在 FAIR 的田淵棟、吳育昕等研究員都曾表示,在這一部門沒有產(chǎn)品的壓力。
但近期一系列調(diào)整下來,Meta 流失不少研究型人才,包括帶領(lǐng)過強(qiáng)化學(xué)習(xí)研究的 Edward Grefenstette 等至少 4 位知名學(xué)者離職,甚至位于倫敦的 AI 實(shí)驗(yàn)室失去了大部分頂級(jí)研究者。
從何愷明回歸學(xué)術(shù)界的動(dòng)向來看,他還是更傾向于搞基礎(chǔ)研究。
One More Thing
就在這段時(shí)間,關(guān)于學(xué)術(shù)界與工業(yè)界的對(duì)比再次成了 AI 圈熱點(diǎn)話題。
一方面,有網(wǎng)友指出工業(yè)界大廠的日子不好過,工程、應(yīng)用型的崗位增加,研究型的越來越少。
另一方面則是大模型當(dāng)?shù)溃珹I 科研成本指數(shù)級(jí)增加,連頂刊 Science 都在正刊發(fā)文表示:學(xué)術(shù)界與工業(yè)界掌握的算力已不在一個(gè)數(shù)量級(jí)。
兩者夾擊之下,AI 大?;貧w學(xué)術(shù)界和離開大廠創(chuàng)業(yè)成了同時(shí)存在的兩股趨勢(shì)。
回歸學(xué)術(shù)界的代表除了何愷明,代表人物還有谷歌 Tensorflow 創(chuàng)始成員 Pete Warden。國(guó)內(nèi)也有螞蟻金服原副總裁漆遠(yuǎn)加盟復(fù)旦、商湯原執(zhí)行研究總監(jiān)代季峰加盟清華等。
離開大廠創(chuàng)業(yè)的代表人物則有谷歌 Transformer 作者們出走成立 Adept AI、Character.AI,以及前兩天剛曝出的亞馬遜李沐與 Alex Smola 攜手創(chuàng)業(yè)。
在《如何看待 Kaiming 面試 MIT 教職?》的知乎熱議話題下面,一個(gè)高贊回答是:
參考鏈接:
[1]https://www.csail.mit.edu/event/eecs-special-seminar-kaiming-he-pursuit-visual-intelligence
[2]https://weibo.com/2199733231/4877346375735190
[3]https://www.zhihu.com/question/588205714
本文來自微信公眾號(hào):量子位 (ID:QbitAI),作者:夢(mèng)晨 Alex
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。