IT之家 3 月 19 日消息，科技媒體 NeoWin 昨日（3 月 18 日）發(fā)布博文，報道稱群聯(lián)（Phison）展示了其 aiDAPTIV+ 技術(shù)，該技術(shù)通過動態(tài)緩存擴展內(nèi)存，有望突破 AI 應(yīng)用的內(nèi)存瓶頸。
IT之家援引博文介紹，人工智能（AI）和機器學(xué)習(xí)（ML）的處理能力已成為衡量現(xiàn)代硬件性能的重要指標，除了處理器本身的算力，AI 任務(wù)對內(nèi)存的需求也十分巨大。
AI 模型參數(shù)和精度越高，對內(nèi)存的需求越大。例如，單精度（float32）通常消耗四倍于參數(shù)值的內(nèi)存。即使是 32GB 顯存的 RTX 5090，也可能被一個 80 億參數(shù)的模型“喂飽”。
而 aiDAPTIV+ 技術(shù)通過動態(tài)緩存，結(jié)合基于 NAND 閃存“aiDAPTIVCache”緩存技術(shù)，擴展可用的 HBM（高帶寬內(nèi)存） / GDDR（專為高帶寬應(yīng)用設(shè)計的同步動態(tài)隨機存取存儲器）。
在 GTC 2025 大會上，群聯(lián)攜手 Maingear 公司，推出了應(yīng)用 aiDAPTIV+ 技術(shù)的 AI PRO 桌面工作站，并通過 aiDAPTIVLink 3.0 新版中間件，負責(zé) SSD 的 NAND 和 GPU 之間的數(shù)據(jù)傳輸，提供更快的首個 Token 時間（TTFT）回調(diào)響應(yīng)，并支持更大的 LLM（大型語言模型）提示上下文。
下圖展示了群聯(lián) Aidaptiv+ 技術(shù)的應(yīng)用結(jié)果，在參數(shù)量超過 130 億的模型上，群聯(lián) aiDAPTIV+ 輕松超越了 Maingear 的四路英偉達 RTX 6000 Ada 設(shè)置（未采用 aiDAPTIV+）。
Maingear 介紹稱 PRO AI 工作站會動態(tài)切片 70B 訓(xùn)練模型，將當(dāng)前切片提供給 GPU 進行高速訓(xùn)練，同時將模型的其余部分存儲在 DRAM 和群聯(lián) AI100 SSD 中。每個 NVIDIA RTX 6000 ADA 在訓(xùn)練中以最少的停機時間全面表現(xiàn)。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。