IT之家 6 月 5 日消息，目前絕大多數(shù)聊天機(jī)器人都需要通過(guò)云端處理消息并進(jìn)行回復(fù)，而 IT 之家此前報(bào)道過(guò)一個(gè)名為 MLC LLM 的開(kāi)源項(xiàng)目?？梢栽诒镜鼐幾g運(yùn)行語(yǔ)言模型。近日 CMU 助理陳天其教授表示，獨(dú)立的 MLC Chat App 目前已經(jīng)上架蘋(píng)果 App Store。感興趣的小伙伴們可以下載進(jìn)行嘗試。
據(jù) MLC LLM 項(xiàng)目介紹稱：“MLC LLM 是一種通用解決方案，它允許將任何語(yǔ)言模型本地部署在一組不同的硬件后端和本地應(yīng)用程序上，此外還有一個(gè)高效的框架，供每個(gè)人進(jìn)一步優(yōu)化自己用例的模型性能。一切都在本地運(yùn)行，無(wú)需服務(wù)器支持，并通過(guò)手機(jī)和筆記本電腦上的本地 GPU 加速”。
IT之家查詢 GitHub 頁(yè)面發(fā)現(xiàn)，這個(gè)項(xiàng)目的開(kāi)發(fā)者來(lái)自卡內(nèi)基梅隆大學(xué)的 Catalyst 計(jì)劃、SAMPL 機(jī)器學(xué)習(xí)研究小組以及華盛頓大學(xué)、上海交通大學(xué)和 OctoML 等。他們還有一個(gè)名為 Web LLM 的相關(guān)項(xiàng)目，該項(xiàng)目可以完全在網(wǎng)絡(luò)瀏覽器中運(yùn)行 AI 聊天機(jī)器人。
MLC Chat 的 App Store 頁(yè)面：點(diǎn)此查看
MLC LLM 的 GitHub 頁(yè)面：點(diǎn)此查看
蘋(píng)果 WWDC23 開(kāi)發(fā)者大會(huì)專題
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。