設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色
全国首份网约配送算法和劳动规则协议    手机 QQ 悄悄支持微信小程序

微軟 ONNX Runtime Web 集成 WebGPU:調(diào)用 GPU 提高網(wǎng)頁(yè)端 AI 模型運(yùn)行速度

2024/3/5 11:12:18 來(lái)源:IT之家 作者:故淵 責(zé)編:故淵

IT之家 3 月 5 日消息,微軟旗下的 ONNX Runtime Web 添加整合了 WebGPU,從而提高復(fù)雜機(jī)器學(xué)習(xí)模型在網(wǎng)絡(luò)瀏覽器中的運(yùn)行性能。不過(guò)這項(xiàng)技術(shù)尚處于早期階段,目前 Chrome 瀏覽器和 Edge 瀏覽器已添加初步支持。

IT之家注:ONNX Runtime Web 是微軟推出的 JavaScript 庫(kù),讓網(wǎng)絡(luò)開(kāi)發(fā)人員直接在網(wǎng)絡(luò)瀏覽器中部署機(jī)器學(xué)習(xí)模型,提供基于硬件加速的多個(gè)后端支持。

WebGPU 是一種網(wǎng)絡(luò)應(yīng)用程序接口(API),可為在網(wǎng)絡(luò)瀏覽器中,為機(jī)器學(xué)習(xí)模型提供硬件加速。

以前,由于計(jì)算能力有限,復(fù)雜的機(jī)器學(xué)習(xí)模型,尤其是大型生成模型,無(wú)法在網(wǎng)絡(luò)瀏覽器中高效運(yùn)行。而現(xiàn)在 WebGPU 可以釋放設(shè)備 GPU 的能力來(lái)完成這些任務(wù),從而顯著提高性能。

微軟表示:

借助計(jì)算著色器等先進(jìn)功能,WebGPU 能夠以更高效的方式處理更復(fù)雜的機(jī)器學(xué)習(xí)工作負(fù)載。

它對(duì)半精度(FP16)的支持降低了 GPU 內(nèi)存的使用率和帶寬要求,同時(shí)加快了運(yùn)算速度。

WebGPU 通過(guò)利用 GPU 處理并行計(jì)算任務(wù)的能力,可直接在網(wǎng)絡(luò)瀏覽器中推斷出更高效、可擴(kuò)展的機(jī)器學(xué)習(xí)應(yīng)用。

適用于 Mac、Windows、ChromeOS 的 Chrome 113 和 Edge 113 以及適用于 Android 的 Chrome 121 默認(rèn)已包含 WebGPU,開(kāi)發(fā)者可以嘗試通過(guò) ONNX Runtime Web 調(diào)用 WebGPU 加速資源。

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:微軟AI,Edge,Chrome
  • 日榜
  • 周榜
  • 月榜

軟媒旗下網(wǎng)站: IT之家 最會(huì)買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買 要知