設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色
国资委:将对整车央企战略性重组    抖音首次公开推荐算法原理

AMD 最強(qiáng) AI 加速卡 MI325X 登場(chǎng):256GB HBM3E、6 TB/s 帶寬,F(xiàn)P8 性能 2.6 PFLOPs,完善 ROCm 生態(tài)

2024/10/11 6:32:32 來(lái)源:IT之家 作者:故淵 責(zé)編:故淵

IT之家 10 月 11 日消息,科技媒體 techpowerup 今天(10 月 11 日)發(fā)布博文,報(bào)道稱在“Advancing AI”大會(huì)上,AMD 公司更新推出了 Instinct MI325X 加速卡。

MI325X 加速卡基于 CDNA 3 架構(gòu),相比較舊款 MI300X 帶來(lái)了一系列改進(jìn)。為了迎接萬(wàn)億參數(shù)的 AI 模型,AMD MI325X 加速卡重點(diǎn)提升了 HBM3E 內(nèi)存和計(jì)算能力。

規(guī)格和性能

AMD MI325X 加速卡配備 256 GB 的 HBM3E 內(nèi)存,容量是 MI300(192GB)的 1.8 倍,帶寬更是達(dá)到了 6 TB/s。

新的加速器在 FP16 下提供 1.3 PetaFLOPS,在 FP8 訓(xùn)練和推理下提供 2.6 PetaFLOPS,較 MI300 提升 1.3 倍,所有這些都集成在一個(gè)擁有 1530 億個(gè)晶體管的芯片中。

配備八個(gè) MI325X 加速器的系統(tǒng)可實(shí)現(xiàn) 2TB HBM3E 內(nèi)存和 48 TB/s 帶寬,計(jì)算性能為 10.4 PetaFLOPS(FP16)和 20.8 PetaFLOPS(FP8)。

AMD 聲稱,Instinct MI325X 在內(nèi)存帶寬、FP16 / FP8 計(jì)算性能上超越 NVIDIA H200 HGX 系統(tǒng) 1.3 倍,在內(nèi)存容量上超越 1.8 倍。

ROCm

加速器核心是 ROCm 軟件堆棧,AMD 計(jì)劃將 ROCm 引入每款 GPU(甚至包括消費(fèi)級(jí) GPU),并與開(kāi)源社區(qū)合作集成最新功能。

AMD 表示會(huì)和開(kāi)源社區(qū)合作,將 PyTorch、Triton、ONNX 等框架的功能整合到  ROCm 堆棧中。

Instinct MI350X 系列

IT之家援引 AMD 官方報(bào)道,該公司正在為 2025 年下半年準(zhǔn)備 Instinct MI350X 系列,預(yù)計(jì)將推出基于 TSMC 3 納米工藝的 CDNA 4 Instinct MI355X 加速器,配備 288 GB HBM3E。

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:AMD,AI
  • 日榜
  • 周榜
  • 月榜

軟媒旗下網(wǎng)站: IT之家 最會(huì)買(mǎi) - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買(mǎi) 要知