設置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色
英特尔任命史上首位华人 CEO    华为 Pura 先锋盛典及鸿蒙智行新品发布会

OpenAI 組建新團隊,以解決控制超智能 AI 的核心技術挑戰(zhàn)

2023/7/7 8:05:12 來源:IT之家 作者:漾仔(實習) 責編:故淵

IT之家 7 月 7 日消息,OpenAI 宣布正在組建一個新團隊,由其聯(lián)合創(chuàng)始人兼首席科學家 Ilya Sutskever 和 Alignment 負責人 Jan Leike 共同領導,以尋找引導和控制下一代“超智能人工智能系統(tǒng)”的方法

▲ 圖源 OpenAI

據(jù)悉,該團隊目前具備最高優(yōu)先級,有權使用公司 20% 的計算資源,目標是在未來四年內解決“控制超智能 AI”的核心技術挑戰(zhàn)。團隊聲稱,他們需要時間來進行“科學和技術”方面的突破,以引導和控制比人類聰明得多的 AI 系統(tǒng)。

研究者 Sutskever 和 Leike 認為,“下一代超智能 AI”可能將在十年內誕生,這將是人類迄今為止發(fā)明的最具影響力的技術,可以幫助人類解決許多原先需要大量人力資源才能解決的問題。但研究者同時認為,該技術也有反噬人類的可能,其巨大的力量可能導致人類喪失主權甚至滅絕。

團隊表示,在“確保比人類更聰明的 AI 系統(tǒng)遵循人類的意圖”方面,他們當下還沒有一個合理的解決方案來引導或控制潛在的超智能 AI,當下人類只能通過反饋來令 AI 調整生成過程,但人類無法可靠地從根源監(jiān)督 AI 系統(tǒng)

OpenAI 計劃構建一個大致達到人類水平的 AI “automated alignment researcher”,然后使用大量深度學習來擴展 AI 能力,并迭代地調整該超級智能。

為此,研究人員需要開發(fā)可擴展的訓練方法,接著驗證生成的模型,并最終對模型進行一系列可控性測試。

IT之家發(fā)現(xiàn),研究人員當下正計劃利用該 AI 系統(tǒng)來協(xié)助評估其它 AI 系統(tǒng)(可擴展的監(jiān)督),同時還希望了解和控制他們的模型是如何將監(jiān)督推廣到人類研究員無法監(jiān)督的任務上。

Sutskever 和 Leike 表示,隨著研究的深入,預計其將來的研究重點也可能出現(xiàn)發(fā)生變化,甚至可能還會有新的研究領域隨之出現(xiàn)。

目前,這一新團隊還在對外招募機器學習研究人員和工程師。Sutskever 和 Leike 認為,招募更多的機器學習專家對于解決下一代超智能 AI 的問題至關重要。他們計劃廣泛分享團隊的研究成果,并將促進業(yè)界共同進步。

這個新團隊的工作是對 OpenAI 現(xiàn)有工作的補充,旨在提高 ChatGPT 等當前模型的安全性,以及理解和減輕人工智能帶來的其他風險,例如濫用、經(jīng)濟破壞、虛假信息、偏見和歧視、成癮和過度依賴等問題。雖然新團隊將專注于將超智能 AI 系統(tǒng)與人類意圖結合起來的機器學習挑戰(zhàn),但我們正在積極與跨學科專家合作解決相關的社會技術問題,以確保我們的技術解決方案考慮到更廣泛的人類和社會問題。

廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。

  • 日榜
  • 周榜
  • 月榜

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機APP應用 魔方 最會買 要知