設置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

英偉達黃仁勛:Blackwell 生產正全力推進,Hopper 需求將持續(xù)到明年

2024/11/21 10:14:37 來源:新浪科技 作者:- 責編:問舟

IT之家 11 月 21 日消息,英偉達今日公布了該公司的 2025 財年第三財季財報。

報告顯示,英偉達第三財季營收為 350.82 億美元,同比增長 94%,環(huán)比增長 17%;不按照美國通用會計準則的調整后凈利潤為 200.10 億美元,同比增長 100%,環(huán)比增長 18%(注:英偉達財年與自然年不同步,2024 年 1 月底至 2025 年 1 月底為 2025 財年)。

英偉達預計 2025 財年第四財季營收將達 375 億美元左右,超出分析師平均預期,但與最高預期的 410 億美元相比存在差距。

財報發(fā)布后,英偉達創(chuàng)始人、總裁兼首席執(zhí)行官黃仁勛和執(zhí)行副總裁兼首席財務官科萊特?克雷斯等高管出席隨后召開的財報電話會議,解讀財報要點并回答分析師提問。

以下是分析是問答環(huán)節(jié)主要內容: 

Cantor Fitzgerald 分析師 C.J. Muse:在大型語言模型擴展規(guī)模方面,顯然我們現在還處于非常早期的階段,想知道公司是如何幫助客戶處理模型擴展方面出現的問題的?當然,有些服務器集群尚未采用 Blackwell 架構,這是否會引發(fā)對該產品更大的需求?

黃仁勛:基礎模型方面,預訓練的擴展規(guī)模仍在進行且進展良好。這是我從觀察中看到的,而非物理定律角度得出的判斷,有證據表明它仍在不斷擴展。然而我們認為僅僅這樣是不夠的,我們已經發(fā)現了另外兩種擴展的方式。

一種是訓練后擴展,當然,第一代訓練后擴展是強化人類反饋,但現在我們有了強化學習人工智能反饋。而且所有形式的合成數據都已生成,這些數據有助于訓練后擴展。其中,最重大、最令人振奮的進展之一就是 ChatGPT o1(Strawberry)模型,它實現了推斷時間擴展,也就是之前所講的測試時間擴展。它思考的時間越長,給出的答案質量就越高,而且它會考慮使用像思維鏈、多路徑規(guī)劃以及各種各樣思考所需的方法,有點像我們人類在回答問題之前先在頭腦中進行思考的過程。所以我們現在已經有了三種擴展方式,也正因為如此,我們看到對公司基礎設施的需求真的很大。

在上一代基礎模型的末期,大概是十萬個 Hopper 的規(guī)模,下一代則從十萬個 Blackwell 開始,這樣大家大概就能了解到這個行業(yè)在預訓練擴展、訓練后擴展,以及現在非常重要的推理時間擴展方面的發(fā)展趨勢了,需求真的很大。

與此同時,對于我們公司來說,推理方面的擴展真的已經開始了,英偉達是當今世界上最大的推理平臺,已安裝的設備數量非常龐大,所有在 Ampere 架構和 Hopper 架構上訓練的內容,其推理也令人難以置信地在 Ampere 架構和 Hopper 架構上進行。隨著我們將 Blackwell 用于訓練基礎模型,未來同樣會為推理留下了龐大的設備基數。

所以,我們看到推理需求在上升,推理時間擴展在上升,原生人工智能公司的數量在持續(xù)增長,當然,我們也開始看到企業(yè)對代理式人工智能(Agentic AI)的采用,這確實是當下最新的潮流,我們看到來自很多不同地方的大量需求。

高盛分析師 Toshiya Hari:黃仁勛在今年早些時候進行了大規(guī)模變革,然后上周末有一些報道提到公司芯片產品出現的散熱問題。另外,已經有投資者詢問你如何執(zhí)行今年在游戲開發(fā)者大會(GDC)上所展示的路線圖,包括明年上市的 Ultra 芯片和 2026 年向 Rubin 平臺的過渡等。能否請你講講這方面的情況?一些投資者對于公司能否按時執(zhí)行計劃存在疑問。另外一個問題關于供應短缺,我想知道是多種零部件導致了這種情況,還是具體是因為某種特定芯片或組件,比如 CoWoS 封裝或者 HBM 芯片方面的問題?短缺的情況是在好轉還是在惡化?

黃仁勛:關于最后一個問題,Blackwell 的生產正在全力推進,正如科萊特之前提到的,我們本季度的交付量將會超過之前的預估。供應鏈團隊在與供應伙伴合作以增加 Blackwell 的產量方面做得非常出色,而且我們會在明年繼續(xù)努力提高其產量。目前的情況是市場需求超過了我們的供應,我們正身處在這場生成式人工智能變革初期,所以這是預料之中的。新一代能夠進行推理、能夠長時間思考的基礎模型剛剛推出,其中一個非常令人振奮的領域便是實體人工智能,即能夠理解真實世界結構的人工智能,所以 Blackwell 的需求非常強勁,我們的執(zhí)行情況也很順利,團隊在全球范圍內正在開展大量的工程工作。包括大家看到的戴爾和 CoreWeave 正在搭建相關系統(tǒng),甲骨文公司搭建的系統(tǒng),微軟也有相關系統(tǒng),即將采用 Grace Blackwell 系統(tǒng),谷歌(Google)也有相關系統(tǒng),所有這些云服務提供商都在爭搶先機。

英偉達和這些公司一道開展相當復雜的工程工作,原因在于雖然我們構建了全棧和完整的基礎設施,但我們需將這些人工智能超級計算機進行拆分,并集成到世界各地的定制數據中心和架構中。這個集成過程我們已經經歷了好幾代,現在已經很擅長了,但仍然有大量的工程工作要做,從所有正在搭建的系統(tǒng)來看,Blackwell 的情況非常好,而且正如我們之前提到的,本季度我們計劃發(fā)貨的數量超過了之前的預估。

關于供應鏈,我們建造了七種不同的定制配置,以便交付 Blackwell 系統(tǒng),這些系統(tǒng)可以采用風冷或液冷方式,有 NVLink 8 或 NVLink 72,或者 NVLink 8、NVLink 36、NVLink 72 等不同組合,還有 X86 或 Grace 架構,將所有這些系統(tǒng)集成到世界各地的數據中心上,簡直可以說就是一個奇跡。

要實現這樣規(guī)模的產能提升,對應的所需零部件的供應鏈情況,你得回頭看看我們上季度的 Blackwell 發(fā)貨量是零,而本季度 Blackwell 系統(tǒng)的總發(fā)貨量是以十億為單位來衡量的,產能提升的速度令人難以置信,似乎世界上幾乎每家公司都參與到了英偉達的供應鏈中,我們有很棒的合作伙伴,從臺積電到安費諾(Amphenol)、Vertiv、SK 海力士、美光、Spil、安普科(Ampcore)、京瓷(Kyec),還有富士康(FOXconn)及其建造的眾多工廠、廣達(Quanta)、緯穎(Wiwynn)、戴爾、惠普(HP)、超微(Supermicro)、聯想(Lenovo)等等。參與 Blackwell 產能提升的公司數量真的相當驚人,我非常感激這些合作伙伴。

最后,關于我們執(zhí)行路線圖的問題,公司有年度路線圖,并且預計會繼續(xù)按照年度路線圖執(zhí)行,這樣做,我們當然能夠提高平臺的性能。同樣非常重要的是,當我們以數倍的幅度提高性能時,我們就在降低訓練成本、降低推理成本、降低人工智能的成本,使其能夠更容易被大眾所使用。另一個需要注意的重要因素是,一個固定規(guī)模的數據中心 —— 數據中心總是有一定的固定規(guī)模,過去可能是幾十兆瓦,現在大多數數據中心是一百兆瓦到幾百兆瓦,我們還在規(guī)劃千兆瓦級的數據中心 —— 不管數據中心規(guī)模多大,電力都是有限的,而當你處于電力有限的數據中心時,每瓦特的最高性能會直接轉化為我們合作伙伴的最高收益。

所以一方面,我們的年度路線圖降低了成本,另一方面,因為我們每瓦特電力所創(chuàng)造的性能比其他任何產品都要好,我們?yōu)榭蛻魟?chuàng)造了盡可能高的收益,所以這個年度節(jié)奏對我們來說非常重要,據我所知,一切都在按計劃進行。

瑞銀分析師 Timothy Arcuri:我想請管理層展望一下 Blackwell 芯片今年產能提升的情況。黃仁勛剛剛談到 Blackwell 的情況比預期要好,我記得你提到發(fā)貨量價值有幾十億美元,而且聽起來 1 月份的發(fā)貨量還會更多。我也記得幾個月前你還說過,Blackwell 在 4 月這個季度會超過 Hopper,這一預測是否仍然有效?另外一個問題給科萊特,你提到隨著 Blackwell 產能的提升,毛利率會下降到 70% 多一點,那么如果 4 月是產量的交叉點,是不是公司毛利率承受壓力最大的時候?是不是從 4 月開始公司的毛利率就會處于 70% 多一點的低位?

科萊特?克雷斯:我們之前討論過,在剛開始提升 Blackwell 的產能時,鑒于我們推向市場的多種不同配置、多種不同芯片,我們會著重確??蛻粼诖罱ㄏ嚓P系統(tǒng)時能擁有最佳體驗。一開始我們的毛利率會有所下降,在這一輪供給的初期階段,毛利率會處于 70% 多一點的低位。在此之后的幾個季度里,我們會開始提高毛利率,并且希望能在這一輪產能爬坡的過程中非??斓鼗謴偷?75% 左右的水平。

黃仁勛:Hopper 的需求還將持續(xù)到明年,明年的前幾個季度都會有需求。與此同時,Blackwell 下一季度的發(fā)貨量會比本季度多,再下一季度的發(fā)貨量又會比(2026 財年)第一季度多,通過這樣的對比,大家應該能更清楚地了解情況。我們確實正處于計算機領域兩項根本性轉變的開端,意義相當重大。

首先,是從在 CPU 上運行編碼轉向在 GPU 上運行能創(chuàng)建神經網絡的機器學習,這種從編碼到機器學習的根本性轉變目前已經非常普遍了,沒有哪家公司不打算開展機器學習的,而機器學習也是催生生成式人工智能等技術的基礎,全球價值萬億美元的計算機系統(tǒng)和數據中心如今正在為適應機器學習而進行現代化改造。

另一方面,利用這些系統(tǒng),我們將要創(chuàng)造一種新型的能力,也就是我們熟知的人工智能。當我們談到生成式人工智能時,本質上是說這些數據中心實際上就是人工智能工廠,就像電廠發(fā)電一樣,我們開始生成人工智能了。如果人工智能的客戶數量眾多,就像用電的消費者數量眾多一樣,這些生成器,也就是數據中心,將會全天候運行,如今很多人工智能服務確實就像人工智能工廠一樣在全天候運行,這種新型系統(tǒng)的上線確實和過去的數據中心不太一樣。所以以上談到的這兩項根本性的趨勢才剛剛開始,我們預計這種增長、這種現代化改造以及新產業(yè)的創(chuàng)建將會持續(xù)數年。

廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。

相關文章

關鍵詞:英偉達,黃仁勛
  • 日榜
  • 周榜
  • 月榜

軟媒旗下網站: IT之家 最會買 - 返利返現優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機APP應用 魔方 最會買 要知