英偉達(dá)芯片一周漲了7萬(wàn)元！GPT帶動(dòng)漲價(jià)潮，主力芯片缺口達(dá)30萬(wàn)

ChatGPT爆火帶動(dòng)AI芯片需求飆升。

截至上周五，英偉達(dá)最新發(fā)布的旗艦AI芯片H100在ebay上的售價(jià)超過(guò)4萬(wàn)美元一枚。相比此前零售商3.6萬(wàn)美元的報(bào)價(jià)，已提價(jià)明顯。

這一價(jià)格仍在持續(xù)上漲。4月19日，時(shí)代財(cái)經(jīng)搜索eBay時(shí)發(fā)現(xiàn)，目前共有5家店鋪掛牌銷(xiāo)售H100芯片，售價(jià)普遍達(dá)到4.5萬(wàn)美元左右，其中標(biāo)價(jià)最高的一枚超過(guò)5萬(wàn)美元。以人民幣計(jì)，相當(dāng)于不到一周時(shí)間漲價(jià)近7萬(wàn)元。

而在國(guó)內(nèi)，AI應(yīng)用的主力芯片——由英偉達(dá)2020年發(fā)布的A100，其交易價(jià)格也在極短時(shí)間內(nèi)迅速飆升。從事GPU服務(wù)器銷(xiāo)售的文強(qiáng)（化名）向時(shí)代財(cái)經(jīng)表示，從年初開(kāi)始到現(xiàn)在短短三個(gè)月多時(shí)間里，A100的價(jià)格已經(jīng)從原本的6萬(wàn)元左右一路漲至9萬(wàn)元，甚至一度超過(guò)10萬(wàn)元，漲幅超過(guò)50%。

在文強(qiáng)看來(lái)，A100售價(jià)還將繼續(xù)上漲。去年8月，美國(guó)政府發(fā)布政策，禁止英偉達(dá)A100、H100兩款A(yù)I芯片售往中國(guó)。目前，國(guó)內(nèi)在售的產(chǎn)品都是此前的存貨。業(yè)內(nèi)預(yù)估，國(guó)內(nèi)A100芯片僅有3萬(wàn)枚存貨，奇貨可居。

為符合美國(guó)政府出口管制政策，英偉達(dá)隨后宣布推出在性能、帶寬上有所閹割的“減配版”A800、H800芯片。受限于產(chǎn)能問(wèn)題，這兩款芯片同樣缺貨，價(jià)格也隨之水漲船高。

文強(qiáng)告訴時(shí)代財(cái)經(jīng)，自己手中A800報(bào)價(jià)也已經(jīng)高達(dá)8.7萬(wàn)元，且僅剩16枚，售完即止。如果需求量大、需要訂貨，報(bào)價(jià)還會(huì)再漲5000元至9.2萬(wàn)元，直逼A100芯片售價(jià)。

“一天一個(gè)價(jià)，一天比一天貴。”

A100芯片缺口達(dá)30萬(wàn)枚

算力、算法和數(shù)據(jù)構(gòu)成了AI時(shí)代的三要素，而算力又是基礎(chǔ)設(shè)施。有多少枚GPU、多少算力，被認(rèn)為是大語(yǔ)音模型研發(fā)和創(chuàng)業(yè)成敗最為關(guān)鍵的因素之一。

正是因此，在海內(nèi)外一眾巨頭和創(chuàng)業(yè)者涌入大語(yǔ)言模型研發(fā)訓(xùn)練的當(dāng)下，市場(chǎng)對(duì)AI芯片的需求量飆升。

據(jù)前人工智能NLP企業(yè)首席科學(xué)家、千芯科技董事長(zhǎng)陳巍測(cè)算，國(guó)內(nèi)如果想要直接訓(xùn)練出一個(gè)GPT-3級(jí)別的大模型，最少需要3000到5000枚A100級(jí)別的AI芯片。

這意味著國(guó)內(nèi)市場(chǎng)存在巨大的供應(yīng)缺口。目前除了阿里巴巴、百度等互聯(lián)網(wǎng)巨頭之外，商湯科技、昆侖萬(wàn)維、毫末智行、360、知乎等公司也官宣了自己的大模型，如果再加上王小川、王慧文、李開(kāi)復(fù)等創(chuàng)業(yè)者，中國(guó)年內(nèi)即將推出的大模型數(shù)量已經(jīng)超過(guò)10個(gè)。光是滿足這些企業(yè)的需求就需要3萬(wàn)到5萬(wàn)枚A100級(jí)別的AI芯片。

這還只是研發(fā)訓(xùn)練層面的需求量。陳巍向時(shí)代財(cái)經(jīng)表示，如果想要實(shí)際部署，算力的需求量只會(huì)更大。以保守情況估計(jì)，國(guó)內(nèi)A100級(jí)別的AI芯片缺口在30萬(wàn)枚左右。

“我們算過(guò)，如果百度要在自己的搜索引擎內(nèi)接入類(lèi)似ChatGPT這樣的對(duì)話模型，可能需要10萬(wàn)塊A100級(jí)別的AI芯片，這還只是假設(shè)每個(gè)人只對(duì)話一次的保守測(cè)算。”

正是因此，A800、H800芯片遭到包括服務(wù)器、互聯(lián)網(wǎng)廠商在內(nèi)的公司哄搶。

一份流傳的《阿里AI專(zhuān)家交流紀(jì)要》顯示，百度年初緊急下單3000臺(tái)8枚芯片的A800服務(wù)器，這意味著需要2.4萬(wàn)枚A800，預(yù)計(jì)全年百度會(huì)有A800和H800共5萬(wàn)枚需求。阿里云預(yù)計(jì)在今年需要1萬(wàn)枚左右，其中6000枚是H800。

在海外，巨頭們的搶購(gòu)也同樣瘋狂。據(jù)媒體報(bào)道，馬斯克為推進(jìn)推特內(nèi)部的新AIGC項(xiàng)目，購(gòu)買(mǎi)了大約1萬(wàn)枚AI芯片。而自2022年末開(kāi)始，微軟就實(shí)行了GPU資源配額供給，但今年1月以來(lái)審批時(shí)間越來(lái)越長(zhǎng)，如今部分申請(qǐng)需要等待幾天甚至幾周才能獲批。同時(shí)，微軟向英偉達(dá)預(yù)訂的數(shù)萬(wàn)枚AI芯片，交貨無(wú)期。

或拖慢國(guó)產(chǎn)大語(yǔ)言模型發(fā)展

對(duì)于大語(yǔ)言模型訓(xùn)練來(lái)說(shuō)，英偉達(dá)幾乎成為唯一的贏家。

去年，國(guó)產(chǎn)芯片公司壁仞科技發(fā)布的BR100，已經(jīng)被普遍認(rèn)為能夠在算力和能效比上達(dá)到全球領(lǐng)先水準(zhǔn)。然而，在配套的產(chǎn)品生態(tài)上，幾乎無(wú)人能與英偉達(dá)抗衡。

一位AI芯片設(shè)計(jì)相關(guān)的從業(yè)者向時(shí)代財(cái)經(jīng)表示，英偉達(dá)于2006年發(fā)布的CUDA平臺(tái)早已成為應(yīng)用最為廣泛的AI開(kāi)發(fā)生態(tài)系統(tǒng)，然而CUDA幾乎只支持英偉達(dá)的Tesla架構(gòu)GPU，這導(dǎo)致開(kāi)發(fā)者難以脫離英偉達(dá)芯片，進(jìn)行生成式AI的研發(fā)以及訓(xùn)練。“幾乎沒(méi)有芯片公司可以撼動(dòng)英偉達(dá)的統(tǒng)治地位。”

IDC數(shù)據(jù)顯示，國(guó)內(nèi)GPU服務(wù)器在2021年占國(guó)內(nèi)服務(wù)器市場(chǎng)規(guī)模的比例超過(guò)88.4%，英偉達(dá)的產(chǎn)品占比超80%。

但受限于美國(guó)政府的出口管制政策，中國(guó)一眾互聯(lián)網(wǎng)大廠、大語(yǔ)言模型的創(chuàng)業(yè)者都無(wú)法及時(shí)獲得最先進(jìn)的AI芯片。在國(guó)內(nèi)難以產(chǎn)出替代產(chǎn)品的情況下，毫無(wú)疑問(wèn)將會(huì)影響國(guó)產(chǎn)大語(yǔ)言模型的發(fā)展進(jìn)程。

在陳巍看來(lái)，中國(guó)企業(yè)如果使用“減配版”芯片，綜合帶寬性能可能只有同期旗艦型號(hào)的六成。這樣需求量更大，跑得卻更慢，綜合成本至少要高出20%至30%。“這很有可能是賺錢(qián)和不賺錢(qián)的分水嶺，活下去和活不下去的分水嶺。”