IT之家 6 月 6 日消息,人工智能芯片初創(chuàng)公司耐能(Kneron)周三在 2024 臺(tái)北國(guó)際電腦展推出了其下一代 AI 產(chǎn)品 —— KNEO 330 服務(wù)器和搭載第三代 NPU 芯片 KL830 的 PC 設(shè)備。
據(jù)悉該公司由 CEO 劉峻誠(chéng)和張懋中創(chuàng)立于 2015 年,是一家提供邊緣運(yùn)算人工智能(edge AI)技術(shù)的公司,其投資者主要包括李嘉誠(chéng)旗下的維港投資、高通、鴻海集團(tuán)、阿里巴巴創(chuàng)業(yè)者基金、中華開發(fā)資本等知名集團(tuán)。
耐能 CEO 劉峻誠(chéng)在發(fā)布會(huì)上表示,目前使用生成式 AI 功能和應(yīng)用的公司,云業(yè)務(wù)依賴于微軟和亞馬遜等巨頭,并從英偉達(dá)或是 AMD 等公司購(gòu)買大量芯片。企業(yè)出于數(shù)據(jù)隱私和安全的考慮,可能不愿意將自身數(shù)據(jù)交給外部公司,并通過其 AI 工具進(jìn)行模型訓(xùn)練,因此可借助耐能的技術(shù)來建設(shè)企業(yè)內(nèi)部的服務(wù)器,用來構(gòu)建企業(yè)專屬的 AI 應(yīng)用程序。他希望耐能從企業(yè)的 AI 業(yè)務(wù)中獲利,并成為英偉達(dá)和 AMD 等巨頭的替代方案。
此次發(fā)布會(huì)上共發(fā)布了兩款產(chǎn)品 —— KNEO 330 服務(wù)器、搭載第三代 NPU 芯片 KL830 的 PC 設(shè)備,官方還計(jì)劃在 2025 年推出自研第四代 NPU 芯片 KL1140。
KNEO 330 服務(wù)器有 48TOPS 的 AI 計(jì)算能力,最多可支持 8 個(gè)并發(fā)連接,支持 LLM 和 Stable Diffusion。在較低的硬件條件下,其 RAG 精度與云端解決方案相當(dāng),降低了小型企業(yè) 30%~40% 的整體 AI 成本。
搭載第三代 NPU 芯片 KL830 的 PC 設(shè)備未透露具體細(xì)節(jié),發(fā)布會(huì)上使用了一臺(tái)搭載第三代 NPU 芯片 KL830 的惠普設(shè)備進(jìn)行演示。耐能表示,目前正在與幾家最大的 PC OEM 廠商密切合作,這些廠商將成為其最新芯片的首批客戶(IT之家注:未公布具體名單)。
KL830 芯片是神經(jīng)處理單元(NPU),與中央處理器(CPU)和圖形處理器(GPU)協(xié)同工作,來實(shí)現(xiàn)運(yùn)行人工智能(AI)任務(wù),最高可提供 10eTOPS@8bit 的綜合計(jì)算能力,峰值功耗僅為 2W,支持許多相對(duì)低參數(shù)的大型語(yǔ)言模型。
耐能表示,KL830 也可通過 USB AI 加速棒使用,使得任何設(shè)備,無(wú)論是寬帶路由器、物聯(lián)網(wǎng)攝像頭還是傳統(tǒng)電腦,都可以成為邊緣 AI 設(shè)備。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。