IT之家 1 月 22 日消息,AMD 近日開始量產(chǎn)其最新一代人工智能和高性能計(jì)算(HPC)加速器 Instinct MI300X,并率先交付合作伙伴 LaminiAI 使用。LaminiAI 將采用 MI300X 加速器運(yùn)行大型語言模型(LLM),以滿足企業(yè)用戶的需求。
LaminiAI 與 AMD 已有多年合作,因此優(yōu)先獲得 MI300X 的供貨并不意外。該公司 CEO Sharon Zhou 在社交媒體上宣布了這一消息,LaminiAI 已經(jīng)收到了多臺(tái)配備 8 個(gè) Instinct MI300X 加速器的機(jī)器,Sharon Zhou 表示:“首批 AMD MI300X 已經(jīng)投入生產(chǎn),LaminiAI 的下一批 LLM 集群即將上線?!?/p>
據(jù)IT之家了解,MI300X 是 AMD Instinct MI300 系列的高性能版本,主打 AI 和 HPC 計(jì)算,其放棄了 x86 CPU 內(nèi)核,而是搭載更多的 CDNA 3 計(jì)算單元,總數(shù)達(dá)到 304 個(gè),遠(yuǎn)高于 MI300A 的 228 個(gè)。此外,MI300X 還配備了 192GB HBM3 高速內(nèi)存,峰值帶寬高達(dá) 5.3 TB / s。
根據(jù) AMD 官方性能測試,MI300X 的表現(xiàn)優(yōu)于市面上已有的 Nvidia H100 80GB,甚至有可能對(duì)即將上市的 H200 141GB 構(gòu)成威脅。目前,Meta 和微軟等巨頭客戶已采購了大量 AMD Instinct MI300 系列產(chǎn)品,LaminiAI 則是首家公開使用 MI300X 的公司。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。