來源:新浪科技
北京時(shí)間8月24日上午消息,英偉達(dá)今日公布了該公司截至2023年7月30日的2024財(cái)年第二財(cái)季財(cái)報(bào)。報(bào)告顯示,英偉達(dá)第二財(cái)季營(yíng)收為135.07億美元,同比增長(zhǎng)101%,環(huán)比增長(zhǎng)88%,創(chuàng)下歷史紀(jì)錄;凈利潤(rùn)為61.88億美元,同比增長(zhǎng)843%,環(huán)比增長(zhǎng)203%;不按照美國(guó)通用會(huì)計(jì)準(zhǔn)則的調(diào)整后凈利潤(rùn)為67.40億美元,同比增長(zhǎng)422%,環(huán)比增長(zhǎng)148%(注:英偉達(dá)財(cái)年與自然年不同步,2024年1月30日至2024年1月29日為2024財(cái)年)。英偉達(dá)第二財(cái)季調(diào)整后每股收益和營(yíng)收遠(yuǎn)超華爾街分析師預(yù)期,對(duì)第三財(cái)季營(yíng)收作出的展望也同樣遠(yuǎn)超預(yù)期,從而推動(dòng)其盤后股價(jià)大幅上漲逾8%,突破52周最高價(jià)。
(資料圖)
詳見:英偉達(dá)第二財(cái)季營(yíng)收135.07億美元 凈利潤(rùn)同比增長(zhǎng)843%
財(cái)報(bào)發(fā)布后,英偉達(dá)創(chuàng)始人、總裁兼首席執(zhí)行官黃仁勛和執(zhí)行副總裁兼首席財(cái)務(wù)官Colette Kress等高管出席隨后召開的財(cái)報(bào)電話會(huì)議,解讀財(cái)報(bào)要點(diǎn)并回答分析師提問。
以下是分析是問答環(huán)節(jié)主要內(nèi)容:
TD Cowen分析師Matt Ramsay:我們都注意到大型模型推斷應(yīng)用的迅速增長(zhǎng),投資者也都知道公司在機(jī)器學(xué)習(xí)訓(xùn)練領(lǐng)域牢不可破的市場(chǎng)地位。以往的小型模型推斷方面的工作載荷都是在A6和CPU上完成的,隨著包括GPT在內(nèi)的大型模型的出現(xiàn),推斷方面的工作載荷出現(xiàn)了巨幅增長(zhǎng),我知道公司的Grace Hopper超級(jí)芯片和其他的一些產(chǎn)品也將滿足這些需求,可否請(qǐng)管理層介紹一下如何劃分小型模型推斷和大型模型推斷?公司的產(chǎn)品組合是怎樣定位的?
黃仁勛:你提到的這些語言模型都是非常偉大的產(chǎn)品,具備很多核心功能,具有理解非結(jié)構(gòu)化語言的能力,而其核心是對(duì)人類語言結(jié)構(gòu)的理解,其中編入了它們所學(xué)習(xí)到的大量人類知識(shí)。
大型語言模型的創(chuàng)建都是求大的,然后才能衍生創(chuàng)建出各類較小型語言模型,本質(zhì)上是一種類似教師-學(xué)生的模式,我們稱之為“模型蒸餾”,我們所看到的小型語言模型,很可能都是從大型語言模型衍生,學(xué)習(xí)和蒸餾提煉而來。
未來的情況可能也是一樣,大型語言模型具備一般性,通用型,或者“零樣本學(xué)習(xí)”能力,具備訓(xùn)練應(yīng)用程序的“神奇能力”,適用于各類計(jì)算設(shè)備,應(yīng)用程序開發(fā)者就是要實(shí)現(xiàn)大型模型的向下“蒸餾”。
小型模型可能也具備某些領(lǐng)域獨(dú)特的優(yōu)秀能力,但歸納總結(jié)能力不及大型模型,不具備我們所說的“零樣本學(xué)習(xí)”能力。
美銀證券分析師Vivek Arya:第一個(gè)問題,公司明年增產(chǎn)的幅度大約是多少?因?yàn)楣芾韺犹岬秸f每個(gè)財(cái)季都有增長(zhǎng)。
第二個(gè)問題,公司在超級(jí)加速器方面的支出增長(zhǎng)并不大,能否請(qǐng)管理層談?wù)勎磥硪粌赡晟墒饺斯ぶ悄苁袌?chǎng)的需求穩(wěn)定性情況?考慮到公司所暗示的對(duì)于第三財(cái)季數(shù)據(jù)中心業(yè)務(wù)營(yíng)收120到130億美元的展望,管理層預(yù)計(jì)目前已經(jīng)有多少比例的服務(wù)器是人工智能加速器驅(qū)動(dòng)的?未來一兩年的需求增長(zhǎng)是否可持續(xù)?
Colette Kress:我們的供應(yīng)在未來幾個(gè)季度到明年的時(shí)間里還將持續(xù)增長(zhǎng),具體增幅的數(shù)字我沒有辦法預(yù)測(cè),因?yàn)檫@涉及到很多供應(yīng)商,零件,以及包括HGX在內(nèi)的眾多即將發(fā)布的新產(chǎn)品,非常感謝供應(yīng)商長(zhǎng)時(shí)間以來對(duì)我們的支持。
黃仁勛:全球數(shù)據(jù)中心的總裝機(jī)金額在1萬億美元上下,包括了云計(jì)算,企業(yè)和其他方面的用途,這些數(shù)據(jù)中心正處于向加速計(jì)算和生成式人工智能的過渡階段,這也是目前最重要的兩個(gè)平臺(tái)轉(zhuǎn)換。
加速計(jì)算是實(shí)現(xiàn)成本效益,能源效益和計(jì)算效益最大化的方式,而生成式人工智能也意外地推動(dòng)加速計(jì)算的進(jìn)展,讓數(shù)據(jù)中心運(yùn)營(yíng)者更有理由開展平臺(tái)轉(zhuǎn)換,從一般性用途的計(jì)算到加速計(jì)算的轉(zhuǎn)換,這是行業(yè)發(fā)展的長(zhǎng)期趨勢(shì)。
伯恩斯坦研究分析師Stacy Rasgon:管理層能否介紹一下數(shù)據(jù)中心中,采用英偉達(dá)系統(tǒng)和GPU,以及不同類型系統(tǒng)比如DGX和H100,占比分別有多少?定價(jià)有什么不同?對(duì)于業(yè)務(wù)增長(zhǎng)的驅(qū)動(dòng)起到怎樣的作用?
Colette Kress:本財(cái)季,HGX系統(tǒng)是我們數(shù)據(jù)中心業(yè)務(wù)增長(zhǎng)中非常重要的一部分,包括了Hopper 架構(gòu)的HGX,以及Ampere 架構(gòu),我們?nèi)栽谑袌?chǎng)上銷售這兩種架構(gòu),并且都在大幅增長(zhǎng),推動(dòng)了公司營(yíng)收的增長(zhǎng),DGX的銷售以及附加軟件銷售的結(jié)合也很重要,還有即將上市的GPU新品,包括L40S,未來將帶來持續(xù)的增長(zhǎng)。上一財(cái)季我們收入的最大推動(dòng)力無疑是HGX系統(tǒng)。
黃仁勛:你談到的H100,我不知道你對(duì)這款產(chǎn)品的了解程度,H100其實(shí)是由35000多個(gè)零件和近1萬億個(gè)晶體管組成,重達(dá)70磅,我們需要?jiǎng)佑煤芏鄼C(jī)器人來安裝,因?yàn)橐芘e起70磅的重量,也需要用到超級(jí)計(jì)算機(jī)來進(jìn)行測(cè)試。
我們可以稱之為技術(shù)奇跡,制造強(qiáng)度非常大。雖然我們將其命名為H100,好像是從晶圓中生產(chǎn)出來的芯片一樣,但H100實(shí)際上是HGX品牌下的產(chǎn)品,服務(wù)于世界各地的超級(jí)加速器,是非常大的系統(tǒng)組件。
杰弗瑞分析師Mark Lipacis:公司在市場(chǎng)上的成功取決于軟件生態(tài)系統(tǒng)以及芯片和硬件平臺(tái),請(qǐng)問管理層可否介紹一下軟件生態(tài)系統(tǒng)的演變以及關(guān)鍵要素?有沒有可能量化公司在這一領(lǐng)域的領(lǐng)先地位,比如構(gòu)建它花了多少資源和人力?另外,如果我們來衡量英偉達(dá)平臺(tái)的價(jià)值,硬件差異化與軟件差異化所占的比例是多少?
黃仁勛:我來用一些指標(biāo)說明,英偉達(dá)有一個(gè)名為企業(yè)人工智能(AI Enterprise)的運(yùn)行時(shí)(runtime),是我們軟件堆棧的一部分。無論是在數(shù)據(jù)處理過程中所進(jìn)行的端到端機(jī)器學(xué)習(xí),在任何框架上進(jìn)行的任何模型訓(xùn)練,或是推理和部署,向外拓展到數(shù)據(jù)中心(比如超級(jí)數(shù)據(jù)中心,或是VMware上的企業(yè)數(shù)據(jù)中心),幾乎每家公司都會(huì)使用到這個(gè)運(yùn)行時(shí)。
客戶可以在英偉達(dá)的任何GPU產(chǎn)品上執(zhí)行此操作,我們?cè)谑袌?chǎng)上擁有數(shù)億個(gè)GPU,在云端擁有數(shù)百萬個(gè)GPU,幾乎每家云服務(wù)中都采用了英偉達(dá)的GPU產(chǎn)品。
可以按單個(gè)GPU配置運(yùn)行,也可以按每次計(jì)算多GPU配置或多節(jié)點(diǎn)運(yùn)行,每個(gè)GPU也可以運(yùn)行多個(gè)活動(dòng)或者計(jì)算情形,從單個(gè)GPU運(yùn)行多種計(jì)算情形,到多個(gè)GPU、多個(gè)節(jié)點(diǎn),再到整個(gè)數(shù)據(jù)中心的拓展。
企業(yè)人工智能擁有大約4500個(gè)軟件包、軟件庫(kù),并且彼此之間具有大約10000個(gè)依賴項(xiàng)。如我此前所言,英偉達(dá)對(duì)于該運(yùn)行時(shí)的升級(jí)和優(yōu)化將不斷持續(xù),它是使計(jì)算加速的很好范例。
代碼組合的數(shù)量之多,以及應(yīng)用程序組合的類型之繁,確實(shí)相當(dāng)令人咋舌,我們也是花了二十年才走到這一步。
我認(rèn)為推動(dòng)公司演進(jìn)的關(guān)鍵要素可能有以下這么幾個(gè)。一是架構(gòu)。英偉達(dá)架構(gòu)的靈活性、多功能性和性能令我們能夠勝任前面提到的任務(wù),從數(shù)據(jù)處理到訓(xùn)練、推理,推理前對(duì)數(shù)據(jù)所進(jìn)行的預(yù)處理,再到后期的數(shù)據(jù)處理,語言進(jìn)行標(biāo)識(shí)化,以便用于訓(xùn)練。整個(gè)工作流程并非只有訓(xùn)練和推理,強(qiáng)度也要大得多,而且都是我們的工作重點(diǎn)。用戶在實(shí)際使用這些計(jì)算系統(tǒng)的過程中,需要大量的應(yīng)用程序,我們的架構(gòu)組合能夠加速中心計(jì)算程序,以保證最低的運(yùn)算和保有成本。
二是裝機(jī)量。很多軟件開發(fā)者都會(huì)尋求英偉達(dá)平臺(tái)的幫助,由于我們有龐大的安裝量,通過我們,軟件開發(fā)者能夠接觸到最大數(shù)量的終端用戶,提升業(yè)務(wù)或獲得投資回報(bào)。
三是觸達(dá)范圍。我們?cè)谠粕喜渴?,如此多的開發(fā)人員和客戶都在使用我們的平臺(tái),比如通信服務(wù)提供商很樂意上云,包括用于內(nèi)部使用——開發(fā),培訓(xùn),操作推薦系統(tǒng)、搜索或者數(shù)據(jù)處理引擎等等,以及訓(xùn)練和推理,我們?cè)谠粕?,也在企業(yè)之中。
昨天,我們宣布了一項(xiàng)非常重大的消息,也值得注意。 VMware可謂是全球企業(yè)的操作系統(tǒng),我們之間的合作也有好幾年時(shí)間了,雙方將生成式人工智能技術(shù)帶給全球企業(yè)。鑒于我們的影響,全球系統(tǒng)開發(fā)者都希望將產(chǎn)品中置入我們的平臺(tái),來自世界各地的設(shè)備廠商和開發(fā)公司帶來了巨大的分銷效應(yīng)。
最后,我們的規(guī)模與速度,決定了公司能夠在不同的使用模型和不同的計(jì)算環(huán)境中,持續(xù)發(fā)展極其復(fù)雜的軟硬件、網(wǎng)絡(luò)和計(jì)算堆棧,能夠在保質(zhì)保量的前提下加快工程進(jìn)度。以往我們大約每?jī)赡暌胍环N新架構(gòu),而現(xiàn)在,大約每半年就會(huì)推出一種新架構(gòu)或者新產(chǎn)品。
有了以上所提到的這些特性,客戶就更愿意將其公司業(yè)務(wù)置于我們的生態(tài)系統(tǒng)之中,這些因素的結(jié)合令英偉達(dá)與眾不同。
(持續(xù)更新中。。。)
Copyright © 2015-2022 華中時(shí)尚網(wǎng)版權(quán)所有 備案號(hào):京ICP備12018864號(hào)-26 聯(lián)系郵箱:2 913 236 @qq.com