設置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色
漫威《复仇者联盟 5》开拍,27 名演员公布    2025 胡润全球富豪榜发布

微軟 AI 推理框架 ONNX Runtime 新增支持龍芯 LoongArch 龍架構

2024/3/12 11:59:34 來源:IT之家 作者:汪淼 責編:汪淼

IT之家 3 月 12 日消息,近日,微軟 AI 推理框架開源社區(qū) ONNX Runtime 發(fā)布支持龍架構的版本 1.17.0,用戶可以直接使用 ONNX Runtime 開源社區(qū)發(fā)布的版本,在龍芯平臺完成 AI 推理類應用的開發(fā)和部署,標志著龍架構軟件生態(tài)得到進一步完善。

圖片

IT之家注:ONNX Runtime(ORT)是近年來興起的 AI 推理框架軟件,被大量 AI 應用作為基礎 AI 推理引擎。ORT 可支持 PyTorch、Tensorflow、TFLite 等多種格式的模型輸入,以及 CPU、GPU、IoT、NPU、FPGA 等多樣化算力后端。

龍芯中科表示,在 ONNX Runtime 社區(qū) 1.17.0 版本的研制過程中,龍芯中科技術團隊與社區(qū)保持緊密合作,期間向 ONNX Runtime 社區(qū)代碼倉庫提交了 7697 行代碼,對矩陣乘法、卷積、轉(zhuǎn)置等核心算子進行深度向量優(yōu)化。

在社區(qū)支持下,龍架構優(yōu)化代碼通過了檢視、測試驗證等質(zhì)量保證流程,ONNX Runtime 社區(qū)自 1.17.0 版本起正式實現(xiàn)對龍架構的原生支持。

IT之家附 ONNX Runtime 源碼下載地址:

https://github.com/microsoft/onnxruntime

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。

相關文章

關鍵詞:ONNX,AI推理,LoongArch,龍芯
  • 日榜
  • 周榜
  • 月榜

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機APP應用 魔方 最會買 要知