設置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

英偉達發(fā)文介紹“黃氏定律”:GPU 推理性能十年提升 1000 倍,無懼摩爾定律影響

2023/10/1 13:30:23 來源:IT之家 作者:汪淼 責編:汪淼

IT之家 10 月 1 日消息,正當人們爭論摩爾定律在 2020 年代是否會放緩、是否仍然適用、甚至已死的時候,英偉達發(fā)文宣布了“黃氏定律(Huang's Law)”。

據(jù)英偉達一篇最新博客稱,在過去十年中,英偉達 GPU 人工智能處理能力增長了 1000 倍?!包S氏定律”意味著在“單芯片推理性能”中看到的加速不會逐漸消失,而是會繼續(xù)出現(xiàn)。

文中表示,英偉達首席科學家 Bill Dally 所描述的“后摩爾定律時代計算機性能如何實現(xiàn)的結(jié)構(gòu)性轉(zhuǎn)變”主要基于人類的聰明才智。這一特征似乎難以建立一條定律,但 Dally 認為,下面的圖表標志著“黃氏定律”的開始。

IT之家查詢發(fā)現(xiàn),“黃氏定律”并非英偉達自己的首創(chuàng)說法。IEEE Spectrum 第一個提出以黃仁勛命名定律,“黃氏定律”后來因《華爾街日報》的一篇專欄而廣為人知。

根據(jù) Dally 最近在 Hot Chips 2023 會議上的演講,上圖顯示過去十年 GPU AI 推理性能增長了 1000 倍。Dally 表示,有趣的是,與摩爾定律不同,工藝縮小對黃氏定律的進展幾乎沒有影響。

Dally 回憶起如何通過改變英偉達 GPU 底層數(shù)字處理來實現(xiàn) 16 倍的增長。使用 Transformer 引擎的 Nvidia Hopper 架構(gòu)的到來帶來了另一個巨大的推動。據(jù)稱,Hopper 使用 8 位和 16 位浮點與整數(shù)數(shù)學的動態(tài)組合,實現(xiàn)了 12.5 倍的性能飛躍,并且節(jié)省了能源。

Dally 還稱,盡管摩爾定律的收益不斷減少,但他相信“黃氏定律”仍將繼續(xù)存在。

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關文章

關鍵詞:黃仁勛,摩爾定律,英偉達 AI

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機APP應用 魔方 最會買 要知