IT之家 2 月 7 日消息,澎峰科技在近日正式宣布,其自主研發(fā)的 PerfXLM + 推理框架已基于海光 DCU,完成對(duì) DeepSeek 全系列模型的深度適配與優(yōu)化。
據(jù)介紹,在性能方面,PerfXLM + 推理框架通過(guò)底層架構(gòu)優(yōu)化,全面適配海光 DCU 算力平臺(tái),為 DeepSeek 模型提供性能支持。針對(duì) DeepSeek-R1-Distill 系列等模型,框架結(jié)合海光 DCU 的并行計(jì)算能力,可降低資源消耗,在同等硬件條件下進(jìn)一步提升推理效率。
生態(tài)方面,海光 DCU 基于 GPGPU 通用加速計(jì)算架構(gòu)設(shè)計(jì),在兼容性與生態(tài)開(kāi)放性具備優(yōu)勢(shì),DeepSeek 模型可直接在海光 DCU 上運(yùn)行,可減少底層適配工作量,技術(shù)團(tuán)隊(duì)僅需聚焦模型精度驗(yàn)證與持續(xù)性能優(yōu)化,即可實(shí)現(xiàn)部署。同時(shí),PerfXLM + 推理框架通過(guò)模型量化、算子融合等核心技術(shù),宣稱(chēng)可為企業(yè)提供低成本、高穩(wěn)定的 AI 推理服務(wù)。
場(chǎng)景覆蓋方面,澎峰科技自研 PerfXLM + 推理框架已覆蓋自然語(yǔ)言處理、多模態(tài)理解等核心場(chǎng)景,客戶(hù)可基于海光 DCU 集群實(shí)現(xiàn)模型快速迭代與彈性擴(kuò)展,滿(mǎn)足各行業(yè)實(shí)時(shí)推理需求,推動(dòng) AI 技術(shù)規(guī)?;瘧?yīng)用。
據(jù)IT之家此前報(bào)道,中科曙光國(guó)家先進(jìn)計(jì)算產(chǎn)業(yè)創(chuàng)新中心有限公司在本月(2 月 4 日)發(fā)文宣布,海光信息技術(shù)團(tuán)隊(duì)成功完成 DeepSeek V3 和 R1 模型與海光 DCU(深度計(jì)算單元)國(guó)產(chǎn)化適配,并正式上線(xiàn)。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。