IT之家 1 月 22 日消息,AMD 近日開始量產(chǎn)其最新一代人工智能和高性能計算(HPC)加速器 Instinct MI300X,并率先交付合作伙伴 LaminiAI 使用。LaminiAI 將采用 MI300X 加速器運行大型語言模型(LLM),以滿足企業(yè)用戶的需求。
LaminiAI 與 AMD 已有多年合作,因此優(yōu)先獲得 MI300X 的供貨并不意外。該公司 CEO Sharon Zhou 在社交媒體上宣布了這一消息,LaminiAI 已經(jīng)收到了多臺配備 8 個 Instinct MI300X 加速器的機器,Sharon Zhou 表示:“首批 AMD MI300X 已經(jīng)投入生產(chǎn),LaminiAI 的下一批 LLM 集群即將上線。”
據(jù)IT之家了解,MI300X 是 AMD Instinct MI300 系列的高性能版本,主打 AI 和 HPC 計算,其放棄了 x86 CPU 內(nèi)核,而是搭載更多的 CDNA 3 計算單元,總數(shù)達到 304 個,遠高于 MI300A 的 228 個。此外,MI300X 還配備了 192GB HBM3 高速內(nèi)存,峰值帶寬高達 5.3 TB / s。
根據(jù) AMD 官方性能測試,MI300X 的表現(xiàn)優(yōu)于市面上已有的 Nvidia H100 80GB,甚至有可能對即將上市的 H200 141GB 構成威脅。目前,Meta 和微軟等巨頭客戶已采購了大量 AMD Instinct MI300 系列產(chǎn)品,LaminiAI 則是首家公開使用 MI300X 的公司。
廣告聲明:文內(nèi)含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。