IT之家 5 月 31 日消息,DeepMind、普林斯頓大學和斯坦福大學的研究人員近日提出了一項名為 LATM(LLMs As Tool Makers)的創(chuàng)新框架,該框架可以將像 GPT-4 這樣的大型語言模型轉變?yōu)楣ぞ咧圃煺撸↖T之家注:即讓模型自己生成軟件工具來處理新任務)。
LATM 的創(chuàng)新之處在于它為語言模型引入了工具制造和使用的概念,使得模型能夠自主創(chuàng)建適用于不同任務的工具。這一框架不僅能夠提高模型的靈活性和適應性,還能夠為生成式 AI 提供更加高效和經濟的解決方案。該框架主要包含以下兩個關鍵部分:
工具制造:作為工具制造者,LLM 專門為特定任務設計軟件工具,這些工具以 Python 函數(shù)的形式實現(xiàn)。
工具使用:另一個 LLM 作為工具使用者,可以調用這些軟件工具來處理新的請求。
這種設計可以讓 LATM 能夠將任務分配給最適合的 LLM,將需要具備高強度算力才能實現(xiàn)的工具制造過程可以分配給功能強大、資源密集型的模型,例如 GPT-4;而將相對簡單的使用工具過程分配給輕量級、經濟高效的模型,例如 GPT-3.5 Turbo。這種方法不僅增強了 LLM 解決問題的能力,而且可以顯著降低處理一系列任務的平均計算成本,以最大程度提升框架效率。
實驗結果驗證了 LATM 在復雜推理任務上的有效性。研究人員發(fā)現(xiàn),LATM 能夠達到與資源密集型模型相當?shù)男阅?,并具有更高的成本效益。這一大型語言模型方法仿照了人類創(chuàng)造和使用工具的進化過程,可促進大型語言模型生成工具的發(fā)展。
研究人員認為,LATM 將為自然語言處理領域帶來重大的突破,并在實際應用中發(fā)揮重要作用,這一創(chuàng)新可高效提升生成式 AI 的效率,以加速促進自然語言處理和人工智能領域的發(fā)展。
IT之家的小伙伴們可以在這里找到論文信息。
廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。