IT之家 10 月 1 日消息,正當人們爭論摩爾定律在 2020 年代是否會放緩、是否仍然適用、甚至已死的時候,英偉達發(fā)文宣布了“黃氏定律(Huang's Law)”。
據(jù)英偉達一篇最新博客稱,在過去十年中,英偉達 GPU 人工智能處理能力增長了 1000 倍?!包S氏定律”意味著在“單芯片推理性能”中看到的加速不會逐漸消失,而是會繼續(xù)出現(xiàn)。
文中表示,英偉達首席科學家 Bill Dally 所描述的“后摩爾定律時代計算機性能如何實現(xiàn)的結(jié)構(gòu)性轉(zhuǎn)變”主要基于人類的聰明才智。這一特征似乎難以建立一條定律,但 Dally 認為,下面的圖表標志著“黃氏定律”的開始。
IT之家查詢發(fā)現(xiàn),“黃氏定律”并非英偉達自己的首創(chuàng)說法。IEEE Spectrum 第一個提出以黃仁勛命名定律,“黃氏定律”后來因《華爾街日報》的一篇專欄而廣為人知。
根據(jù) Dally 最近在 Hot Chips 2023 會議上的演講,上圖顯示過去十年 GPU AI 推理性能增長了 1000 倍。Dally 表示,有趣的是,與摩爾定律不同,工藝縮小對黃氏定律的進展幾乎沒有影響。
Dally 回憶起如何通過改變英偉達 GPU 底層數(shù)字處理來實現(xiàn) 16 倍的增長。使用 Transformer 引擎的 Nvidia Hopper 架構(gòu)的到來帶來了另一個巨大的推動。據(jù)稱,Hopper 使用 8 位和 16 位浮點與整數(shù)數(shù)學的動態(tài)組合,實現(xiàn)了 12.5 倍的性能飛躍,并且節(jié)省了能源。
Dally 還稱,盡管摩爾定律的收益不斷減少,但他相信“黃氏定律”仍將繼續(xù)存在。
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。