最高 9.9 倍，微軟推出 Olive 工具：大幅優(yōu)化 AMD GPU 運行 AI 模型性能

IT之家 8 月 22 日消息，微軟公司近日發(fā)布新聞稿，介紹了全新的 Microsoft Olive 工具，最多可以讓 AMD 旗下的 GPU 顯卡運行模型性能提升 9.9 倍。

Microsoft Olive 是由 Python 語言開發(fā)的工具，可以大幅優(yōu)化 AMD GPU 運行大語言模型的性能。

新聞稿中表示 Radeon RX 7900 XTX GPU 在啟用 Microsoft Olive 工具之后，以運行 Stable Diffusion 模型為例，基于文本生成圖像性能明顯提升。

Microsoft Olive 可以轉(zhuǎn)換、優(yōu)化、量化和自動調(diào)優(yōu)模型，從而最大化性能輸出。AMD 在官方測試中表示，在默認(rèn) PyTorch 路徑上運行，AMD Radeon RX 7900 XTX 每秒提供 1.87 次迭代；不過開啟 Microsoft Olive 工具優(yōu)化模型之后，該 GPU 每秒可以迭代 18.59 次。

IT之家在此附上博文鏈接，感興趣的用戶可以深入閱讀。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。