IT之家 3 月 12 日消息,近日,微軟 AI 推理框架開源社區(qū) ONNX Runtime 發(fā)布支持龍架構的版本 1.17.0,用戶可以直接使用 ONNX Runtime 開源社區(qū)發(fā)布的版本,在龍芯平臺完成 AI 推理類應用的開發(fā)和部署,標志著龍架構軟件生態(tài)得到進一步完善。
IT之家注:ONNX Runtime(ORT)是近年來興起的 AI 推理框架軟件,被大量 AI 應用作為基礎 AI 推理引擎。ORT 可支持 PyTorch、Tensorflow、TFLite 等多種格式的模型輸入,以及 CPU、GPU、IoT、NPU、FPGA 等多樣化算力后端。
龍芯中科表示,在 ONNX Runtime 社區(qū) 1.17.0 版本的研制過程中,龍芯中科技術團隊與社區(qū)保持緊密合作,期間向 ONNX Runtime 社區(qū)代碼倉庫提交了 7697 行代碼,對矩陣乘法、卷積、轉(zhuǎn)置等核心算子進行深度向量優(yōu)化。
在社區(qū)支持下,龍架構優(yōu)化代碼通過了檢視、測試驗證等質(zhì)量保證流程,ONNX Runtime 社區(qū)自 1.17.0 版本起正式實現(xiàn)對龍架構的原生支持。
IT之家附 ONNX Runtime 源碼下載地址:
https://github.com/microsoft/onnxruntime
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。