設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

Meta 發(fā)布新 AI 模型:利用 AI 來評估 AI 的能力,無需人類參與

2024/10/19 11:11:36 來源:IT之家 作者:清源 責(zé)編:清源

IT之家 10 月 19 日消息,據(jù)路透社報道,Meta 當(dāng)?shù)貢r間周五宣布,其研究團隊推出了一系列新的 AI 模型,其中包括一個名為“自我訓(xùn)練評估器”的工具。該工具有望推動 AI 開發(fā)過程中減少對人類干預(yù)的依賴。這個工具早前在 8 月的論文中首次亮相,其使用與 OpenAI 新發(fā)布的 o1 模型類似的“思維鏈”技術(shù),讓 AI 對模型的輸出做出可靠判斷。

這種技術(shù)將復(fù)雜問題分解為多個邏輯步驟,從而提高了在科學(xué)、編程和數(shù)學(xué)等高難度領(lǐng)域中的答案準確性。Meta 的研究人員使用完全由 AI 生成的數(shù)據(jù)來訓(xùn)練這個評估器,從而在這一過程中完全摒棄了人類的參與。

使用 AI 來評估 AI 的能力展示了實現(xiàn)自主 AI 智能體的可能性,這類代理能夠從自身錯誤中學(xué)習(xí)。兩位負責(zé)該項目的 Meta 研究人員表示,許多 AI 專家設(shè)想未來可以開發(fā)出“智能化程度極高”的數(shù)字助手,可以自主處理大量任務(wù),而無需人類介入。

自我改進的模型有望減少目前使用的“基于人類反饋的強化學(xué)習(xí)”(RLHF)過程的需求。這一過程往往昂貴且低效,因為它依賴于擁有專業(yè)知識的人類來標注數(shù)據(jù)和驗證復(fù)雜問題的答案是否正確。

“我們希望,隨著 AI 的發(fā)展,它能超越人類,逐漸具備自行檢查工作的能力,并在準確性上超過普通人類水平,”項目研究員之一 Jason Weston 說?!白晕矣?xùn)練和評估的能力是實現(xiàn)超人級 AI 的關(guān)鍵因素之一。”他補充道。

IT之家從報道中獲悉,包括谷歌和 Anthropic 在內(nèi)的其他科技公司也在研究 RLAIF(基于 AI 反饋的強化學(xué)習(xí))這一概念,但與 Meta 不同,這些公司通常不會公開發(fā)布其研究模型。

Meta 此次發(fā)布的其他 AI 工具還包括對其圖像識別模型“Segment Anything”的更新,一個加速大語言模型響應(yīng)時間的工具,以及一些有助于發(fā)現(xiàn)新型無機材料的數(shù)據(jù)集。

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:meta,人工智能

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機APP應(yīng)用 魔方 最會買 要知