IT之家 7 月 11 日消息,英特爾今日面向中國市場推出全新 Gaudi2 處理器,主要應(yīng)用于加速 AI 訓(xùn)練及推理。
IT之家匯總該款處理器參數(shù)信息:
24 個(gè)可編程 Tensor 處理器核心(TPCs)
21 個(gè) 100Gbps(RoCEv2)以太網(wǎng)接口
96GB HBM2E 內(nèi)存容量
2.4TB / 秒的總內(nèi)存帶寬
48MB 片上 SRAM
集成多媒體處理引擎
英特爾 Gaudi2 處理器的架構(gòu)重點(diǎn)在于高效擴(kuò)展,以滿足大規(guī)模語言模型及生成式 AI 模型的需求;該處理器的每張芯片集成了 21 個(gè)專用于內(nèi)部互聯(lián)的 100Gbps 以太網(wǎng)接口。
在 Stable Diffusion 訓(xùn)練上,英特爾 Gaudi2 處理器展示了從 1 張卡至 64 張卡近線性 99% 的擴(kuò)展性,從 256 個(gè)加速器到 384 個(gè)加速器可實(shí)現(xiàn)接近線性的 95% 擴(kuò)展效果。
英特爾與浪潮信息合作的 AI 服務(wù)器 NF5698G7 就是基于 Gaudi2 處理器,NF5698G7 是專為面向生成式 AI 市場創(chuàng)新開發(fā)的新一代 AI 服務(wù)器,該服務(wù)器內(nèi)部集成了 8 顆 Gaudi2 加速卡 HL-225B。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。