IT之家 4 月 7 日消息，AMD 近日公布了一系列基準測試，聲稱其銳龍移動版 7040 Phoenix 系列和 8040 系列處理器在運行大型語言模型 (LLMs) 方面，性能最高可領先于英特爾最新的 Core Ultra Meteor Lake CPU 達 79%。
IT之家注意到，本次測試對比的是 AMD 銳龍 7 7840U 和英特爾 Core Ultra 7 155H 處理器，兩款芯片均配備了硬件神經(jīng)網(wǎng)絡處理單元 (NPU)。AMD 展示了多張幻燈片，對比了這兩款處理器的 Mistral 7b、Llama v2 和 Mistral Instruct 7B 等大型語言模型的性能表現(xiàn)。在 Llama v2 對話測試中，使用 Q4 位寬時，AMD 處理器的性能比 Core Ultra 7 高出 14%。而在 Mistral Instruct 測試中，使用相同位寬的情況下，AMD 處理器則快了 17%。
在同樣的大型語言模型測試中，AMD 處理器在響應速度上也展現(xiàn)出優(yōu)勢。例如，在 Llama v2 對話測試的“示例提示詞生成首個 Token”速度測試中，AMD 處理器比 Core Ultra 7 快了 79%，而在 Mistral Instruct 測試中則快了 41%。
AMD 還展示了另一組測試結果，涵蓋了各種位寬、塊大小和質(zhì)量水平的 Llama v2 7B 對話測試。整體來看，銳龍 7 7840U 的平均性能比英特爾競品高出 55%，在 Q8 位寬設置下性能提升甚至達到 70%。不過 AMD 也表示，在實際應用中運行大型語言模型時，使用 4 位的 K M 量化可以取得更好的平衡，而對于需要極致精度的編碼等任務，則可以使用 5 位的 K M 量化設置。
從目前來看，AMD 在人工智能性能方面暫時領先于英特爾。盡管銳龍 7040 系列架構在理論性能 (TOPS) 上與 Meteor Lake 相當，但 Tom'sHardware 在去年年底就發(fā)現(xiàn)，在 AI 負載方面，AMD 通常能擊敗 Meteor Lake。這似乎更像是軟件優(yōu)化問題，而非硬件或驅(qū)動程序的問題。
不過這種性能差距應該不會持續(xù)太久。畢竟，神經(jīng)網(wǎng)絡處理單元的發(fā)展才剛剛開始。如果更多的應用程序不采用 OpenVINO 框架，預計英特爾將改變策略，尋求一種更易被開發(fā)者采納的優(yōu)化方案。此外，英特爾也計劃在今年晚些時候發(fā)布下一代 Lunar Lake 移動 CPU 架構，據(jù)稱其 AI 性能將是 Meteor Lake 的 3 倍（同時 CPU 核心部分的 IPC 性能也將大幅提升）。
總而言之，AMD 目前在神經(jīng)網(wǎng)絡處理單元性能方面占據(jù)優(yōu)勢，尤其是擁有更強 NPU 性能的銳龍 8040 系列處理器。但是，隨著年底英特爾 Lunar Lake 架構的發(fā)布及其人工智能優(yōu)化計劃的實施，戰(zhàn)局可能會發(fā)生逆轉。
廣告聲明：文內(nèi)含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。