IT之家 2 月 16 日消息,國(guó)產(chǎn) GPU 廠商景嘉微昨日推出預(yù)置 DeepSeek-R1 模型的全國(guó)產(chǎn)加固 AI 服務(wù)器,號(hào)稱“算力自主”“開箱即用”。
IT之家附設(shè)備參數(shù)如下:
CPU:64~128 核 CPU
最高頻率:2.6GHz
算力:50~2000 TOPS
內(nèi)存容量:256GB
顯存容量:32~512GB
存儲(chǔ)容量:100TB
結(jié)構(gòu)尺寸:標(biāo)準(zhǔn) 19 英寸服務(wù)器,7U 高度,深度 400mm
模型支持:?jiǎn)螜C(jī)支持 DeepSeek-R1 1.5B ~ 70B 蒸餾模型,最多支持 200 + 用戶并發(fā)。
操作系統(tǒng):麒麟 / openEuler 操作系統(tǒng)
集群支持:支持
國(guó)產(chǎn)化率:100% 全國(guó)產(chǎn)
景嘉微官方公告稱,該服務(wù)器基于 100% 國(guó)產(chǎn)化的模組和元器件自主設(shè)計(jì),預(yù)置國(guó)產(chǎn) DeepSeek-R1 開源大模型,實(shí)現(xiàn)從芯片級(jí)硬件到系統(tǒng)級(jí)軟件的端到端自主可控。
服務(wù)器內(nèi)置 Deepseek-R1 1.5B ~ 70B 蒸餾模型,支持零配置啟動(dòng)大模型的交互演示。開發(fā)者可快速調(diào)用預(yù)置模型接口。
服務(wù)器單機(jī)最高可搭載 2000 TOPS 算力與 256GB 高速顯存,單機(jī)即可驅(qū)動(dòng)最高 DeepSeek-R1 70B 蒸餾模型推理,可同時(shí)部署多個(gè)不同參數(shù)的 DeepSeek-R1 蒸餾模型,最高支持 200 + 用戶高并發(fā)訪問(wèn),滿足千人團(tuán)隊(duì)使用場(chǎng)景。通過(guò) RoCE 無(wú)損網(wǎng)絡(luò)構(gòu)建彈性算力集群,預(yù)留千億級(jí)參數(shù)模型部署能力(兼容 DeepSeek-R1 671B 全參數(shù)版本)。
服務(wù)器通過(guò)加固設(shè)計(jì),內(nèi)置冗余供電,具備抗強(qiáng)震動(dòng)、電磁屏蔽、三防(防潮 / 防塵 / 防腐蝕)等特性,確保特種行業(yè)復(fù)雜工況下的持續(xù)穩(wěn)定運(yùn)行。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。