IT之家 1 月 3 日消息,創(chuàng)鑫智慧(Neuchips)近日發(fā)布新聞稿,宣布將參加 2024 年 CES 大展,將推出新型 Raptor Gen AI 加速卡和 Evo PCIe 加速卡 LLM 產(chǎn)品。
IT之家注:Raptor Gen AI 加速卡此前稱為 N3000,幫助企業(yè)在現(xiàn)有解決方案情況下,小成本部署大型語言模型(LLM)。
Neuchips 首席執(zhí)行官 Ken Lau 在新聞稿中表示:
我們很高興能在 2024 年消費(fèi)電子展上向業(yè)界推出我們的 Raptor 芯片和 Evo 卡。
Neuchips 的解決方案代表了自然語言處理從價格到性能的巨大飛躍
通過 Neuchips 的新產(chǎn)品,任何組織現(xiàn)在都可以利用 LLM 的強(qiáng)大功能來實現(xiàn)廣泛的人工智能應(yīng)用。
根據(jù)新聞稿,Raptor Gen AI 加速卡的每秒算力為 200 TOPS,在矩陣乘法、矢量和嵌入表查找等 AI 推斷運(yùn)算方面表現(xiàn)出色,適合生成式 AI 等場景。
Evo 加速卡采用 8 通道 PCIe Gen5 和 32GB LPDDR5 內(nèi)存,主機(jī) I / O 帶寬為 64GB/s,內(nèi)存帶寬為 1.6Tbps,單卡功耗僅為 55W。
Evo 還具有 100% 的可擴(kuò)展性,客戶可以通過輕松添加更多芯片來線性提高性能。Neuchips 指出,這種模塊化設(shè)計有助于確保客戶為未來的人工智能工作負(fù)載進(jìn)行投資生產(chǎn)。
此外,Neuchips 還在預(yù)告其即將推出的半高半長(HHHL)外形產(chǎn)品 Viper,該產(chǎn)品將于 2024 年下半年推出。該公司表示,Viper 將擁有“更大的部署靈活性”,以緊湊、小巧的設(shè)計帶來數(shù)據(jù)中心級人工智能加速。
CES 2024 消費(fèi)電子展專題:海量數(shù)碼新品發(fā)布
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。