馬斯克跟甲骨文談崩了,百億大訂單泡湯!馬斯克欲買30萬臺B200,嫌棄甲骨文速度太慢!對方:根本沒那么多電 原創
編輯 | 伊風
馬斯克和甲骨文公司(Oracle)有個百億的大訂單談崩了!雙方互相甩鍋了一波。
馬斯克嫌棄甲骨文速度太慢,認為對方沒有以可行的速度構建計算集群。
而甲骨文則覺得 xAI 選的建超級計算機的地方跟本供不上這么多電!
隨著百億訂單的談判破裂, xAI 和甲骨文停止了討論擴大現有合作的可能性,只保留了當前合約的安排——xAI 將繼續租用從甲骨文提供的約 16,000 顆 Nvidia 芯片。
xAI目前正在田納西州孟菲斯市建設自己的人工智能數據中心。而與甲骨文的合作破裂意味著xAI要自己動手單干,通過10w Nvidia 的 H100 圖形處理單元構建獨立的算力中心,以擺脫甲骨文等云提供商能力的限制。
不過,以AI迅猛的發展勢頭來看,xAI的10萬臺H100只是打底。
回想上個月,X平臺網友發起的一條討論:哪家AI公司最快建成百萬臺H100的算力集群?
馬斯克旗下的xAI高票當選。
他回復道,由于技術進步飛速,不值得為H100浪費這么多電。
他已經計劃在明年配置上30萬臺B200,同時使用先進的CX8高速網絡互連技術。
圖片
Nvidia表示,訓練一個1.8萬億個參數的人工智能模型大約需要2000個Blackwell GPU(據說,這是 OpenAI 的 GPT-4 的估計大?。?。相比之下,執行同樣的任務需要8000個Hopper GPU。
根據Nvidia的數據推算,馬斯克對明年的算力規劃,相當于配齊120萬臺H100。
1.甲骨文名副其實“AI軍火商”剛與微軟達成50億大單!10萬顆英偉達GB200
同樣愿意為算力豪擲千金的還有微軟。
根據The Information的報道,甲骨文與微軟的交易已經簽署了協議,將為合作伙伴OpenAI 提供 Nvidia 驅動的服務器。
據兩位知情人士透露,甲骨文與微軟的交易涉及一個由10萬顆Nvidia即將推出的GB200芯片組成的集群。
這同樣是一筆天價訂單,據熟悉GPU云定價的人士稱,假設兩家公司簽署了一份多年期協議,租用這樣一個集群的成本可能會在兩年內達到50億美元左右。
2.黃仁勛的遠慮:云服務商追不上英偉達的腳步
不止是馬斯克一個人在憂慮云服務商的效率。更加焦慮的還有黃仁勛。
今年,英偉達的市值一路飆至登頂。
但老黃始終在擔心云服務提供商的速度掉隊問題。他懷疑,公司的主要客戶,尤其是亞馬遜、微軟等,是否在以足夠的速度擴建數據中心和電力中心,以容納向英偉達訂購的人工智能服務器芯片。
去年圣誕節期間,黃仁勛特意召集高層管理人員開會討論這個問題,因為他擔心主要客戶的數據中心容量不足將影響英偉達的銷售額。
在討論之后,英偉達決定大力“雞”服務商——整個管理層加強了對云提供商的詢問,要求他們澄清處理訂購的 GPU 的能力和能源供應情況。
3.有算力沒電力的尷尬
AI或許能做很多令我們驚嘆的事情。但一個不容忽視的事實是,目前為止碳基生命比硅基生命要節能得多。
據報道,谷歌自 2019 年以來,排放量增加了 48%。而碳排放的瘋狂上漲,很大程度上是因為人工智能的訓練和使用。
人工智能對電力的需求已成為一個令人擔憂的問題。
今年 1 月,國際能源機構估計,到 2026 年,全球數據中心的能耗將翻一番。同時,高盛公司 2024 年 4 月的一份分析報告預測,到本十年末,全球數據中心用電量將增加 1.8 倍至 3.4 倍。
不過,也有人對這種預測提出了質疑。今年二月,美國智庫信息技術與創新基金會的數據創新中心(CDI),認為人們過分夸大了人工智能的長期排放影響。該組織認為,過去曾試圖準確預測新興技術的能源需求,但都以失敗告終——許多預測都沒有考慮硬件和軟件在未來的改進。
參考鏈接:
1.https://www.theinformation.com/articles/musks-xai-and-oracle-end-talks-on-a-server-deal?utm_campaign=article_email&utm_cnotallow=article-13188&utm_medium=email&utm_source=sg
2.https://www.theinformation.com/articles/nvidias-jensen-huang-is-on-top-of-the-world-so-why-is-he-worried
本文轉載自??51CTO技術棧??,作者:伊風
