設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

創(chuàng)鑫智慧預(yù)告 CES 2024:將推 Raptor Gen AI 加速卡等產(chǎn)品

2024/1/3 10:08:27 來源:IT之家 作者:故淵 責(zé)編:故淵

IT之家 1 月 3 日消息,創(chuàng)鑫智慧(Neuchips)近日發(fā)布新聞稿,宣布將參加 2024 年 CES 大展,將推出新型 Raptor Gen AI 加速卡和 Evo PCIe 加速卡 LLM 產(chǎn)品。

IT之家注:Raptor Gen AI 加速卡此前稱為 N3000,幫助企業(yè)在現(xiàn)有解決方案情況下,小成本部署大型語言模型(LLM)。

Neuchips 首席執(zhí)行官 Ken Lau 在新聞稿中表示:

我們很高興能在 2024 年消費(fèi)電子展上向業(yè)界推出我們的 Raptor 芯片和 Evo 卡。

Neuchips 的解決方案代表了自然語言處理從價格到性能的巨大飛躍

通過 Neuchips 的新產(chǎn)品,任何組織現(xiàn)在都可以利用 LLM 的強(qiáng)大功能來實現(xiàn)廣泛的人工智能應(yīng)用。

根據(jù)新聞稿,Raptor Gen AI 加速卡的每秒算力為 200 TOPS,在矩陣乘法、矢量和嵌入表查找等 AI 推斷運(yùn)算方面表現(xiàn)出色,適合生成式 AI 等場景。

Evo 加速卡采用 8 通道 PCIe Gen5 和 32GB LPDDR5 內(nèi)存,主機(jī) I / O 帶寬為 64GB/s,內(nèi)存帶寬為 1.6Tbps,單卡功耗僅為 55W。

Evo 還具有 100% 的可擴(kuò)展性,客戶可以通過輕松添加更多芯片來線性提高性能。Neuchips 指出,這種模塊化設(shè)計有助于確保客戶為未來的人工智能工作負(fù)載進(jìn)行投資生產(chǎn)。

此外,Neuchips 還在預(yù)告其即將推出的半高半長(HHHL)外形產(chǎn)品 Viper,該產(chǎn)品將于 2024 年下半年推出。該公司表示,Viper 將擁有“更大的部署靈活性”,以緊湊、小巧的設(shè)計帶來數(shù)據(jù)中心級人工智能加速。

CES 2024 消費(fèi)電子展專題:海量數(shù)碼新品發(fā)布

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:人工智能,CES 2024,加速卡

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會買 要知