埃隆·馬斯克：100 萬張英偉達(dá) GPU？不，我的超級(jí)計(jì)算機(jī)需要 5000 萬張的算力

埃隆·馬斯克不僅限于收購(gòu) 100 萬張英偉達(dá) GPU 用于 AI 訓(xùn)練。這位億萬富翁希望獲得更多 GPU，因?yàn)樗某鮿?chuàng)公司 xAI 正努力在下一代 AI 系統(tǒng)上超越競(jìng)爭(zhēng)對(duì)手。

Musk 今天發(fā)推文表示，xAI 的目標(biāo)是擁有與 5000 萬英偉達(dá) H100 GPU 相當(dāng)?shù)挠?jì)算能力，這種企業(yè)級(jí)圖形芯片被廣泛用于 AI 訓(xùn)練和運(yùn)行聊天機(jī)器人?！皒AI 的目標(biāo)是在 5 年內(nèi)實(shí)現(xiàn) 5000 萬個(gè) H100 等效-AI 計(jì)算單元（但功率效率更高）在線，”他說。

Musk 的推文是在競(jìng)爭(zhēng)對(duì)手 Sam Altman，即 OpenAI 的 CEO，在其自己的帖子中寫下了計(jì)劃在本年底前運(yùn)行“超過 100 萬張 GPU”，目標(biāo)是指數(shù)級(jí)提升計(jì)算能力“100 倍”之后。與此同時(shí)，Meta 的 CEO 馬克·扎克伯格也有一個(gè)類似的目標(biāo)；他希望建設(shè)大型數(shù)據(jù)中心，專門用于開發(fā) AI 超級(jí)智能。

這些不斷增長(zhǎng)的 AI 投資突顯了擴(kuò)大規(guī)模（ 并吸引頂尖人才 ）的成本之高。Musk 的推文并不意味著他會(huì)試圖購(gòu)買 5000 萬張 GPU，盡管如此。H100 是在 2022 年推出的，在英偉達(dá)開始提供更強(qiáng)大的模型之前，包括 GB200，據(jù)報(bào)道它可以提供高達(dá) 2.5 倍的性能提升。

英偉達(dá)還發(fā)布了一份路線圖 ，概述了兩種額外的 GPU 架構(gòu)，Rubin 和 Feynman，它們承諾在未來幾年內(nèi)以更高的能效釋放更強(qiáng)大的 AI 芯片。然而，為了實(shí)現(xiàn)他的目標(biāo)，Musk 的 xAI 可能需要購(gòu)買數(shù)百萬個(gè)英偉達(dá) GPU。

與此同時(shí)，馬斯克在另一條推文中表示，位于田納西州孟菲斯市的 xAI 公司的 Colossus 超級(jí)計(jì)算機(jī)已增長(zhǎng)到 23 萬個(gè) GPU，其中包括 3 萬個(gè) Nvidia GB200。他的公司還在建造第二個(gè) Colossus 數(shù)據(jù)中心，該數(shù)據(jù)中心將容納 55 萬個(gè) GPU，這些 GPU 由 Nvidia 的 GB200 和更先進(jìn)的 GB300 芯片組成。

這種計(jì)算能力需要大量的電力；xAI 正在巨像地點(diǎn)使用燃?xì)鉁u輪機(jī)，環(huán)保組織說它們正在加劇孟菲斯空氣污染 。