IT之家 8 月 16 日消息,8 月 15 日,由開(kāi)源中國(guó)與上海浦東軟件園聯(lián)合舉辦的全球開(kāi)源技術(shù)峰會(huì)(GOTC2024)在上海舉行。華為數(shù)據(jù)存儲(chǔ)軟件首席專(zhuān)家張群輝分享了 ModelEngine 在垂域大模型領(lǐng)域的應(yīng)用實(shí)踐。
據(jù)張群輝介紹,ModelEngine 是華為 DCS(Data Center Stack)全棧的 AI 訓(xùn)推全流程工具鏈,業(yè)界首個(gè)采用 AI 流式編程框架,提供從數(shù)據(jù)處理、知識(shí)生成,到模型微調(diào)和部署,以及 RAG 應(yīng)用開(kāi)發(fā)、應(yīng)用部署,為數(shù)據(jù)處理工程師、模型工程師、應(yīng)用開(kāi)發(fā)者提供開(kāi)箱即用的全流程 AI 開(kāi)發(fā)體驗(yàn)。
IT之家注意到,張群輝在演講中稱(chēng),基于 ModelEngine 開(kāi)放的數(shù)據(jù)使能、模型使能和應(yīng)用使能工具鏈,支持使用開(kāi)放的數(shù)據(jù)處理算子、主流的模型和開(kāi)放的應(yīng)用算子,語(yǔ)料生成時(shí)間從月縮短到天。面向開(kāi)發(fā)者提供一站式 AI 應(yīng)用開(kāi)發(fā)、評(píng)估優(yōu)化和部署,幫助快速構(gòu)建 AI 應(yīng)用,支持 LangChain、LlamaIndex 等插件,保護(hù)已有 AI 資產(chǎn)。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。