微軟、OpenAI又搞大動作:斥資1000億美元開發AI超算「星際之門」
根據 Information 消息,微軟和 OpenAI 正在計劃一個數據中心項目,該項目將包含一個擁有數百萬專用服務器芯片的超級計算機,以支持 OpenAI 的人工智能技術。另外,項目成本可能高達 1000 億美元,包括一個名為 Stargate (「星際之門」)的人工智能超級計算機,預計將于 2028 年啟動。微軟很可能負責資助該項目。
不過該項目尚未獲得正式批準,未來或許還有變化。
一位知情人士表示,微軟是否愿意繼續實施 Stargate 計劃,在一定程度上取決于 OpenAI 提升其人工智能能力的有效性。因為 OpenAI 去年未能交付其向微軟承諾的新模型。然而,OpenAI 首席執行官 Sam Altman 公開表示,阻礙更好人工智能發展的主要瓶頸是缺乏足夠的服務器。
如果 Stargate 計劃得以實施,它將產生的計算能力將比微軟目前從鳳凰城等地的數據中心提供給 OpenAI 的計算能力大幾個數量級。據這些人士稱,擬議中的超級計算機還將至少需要幾吉瓦的電力 —— 相當于至少運行幾個大型數據中心今天所需的電力,項目的大部分成本將用于采購芯片。
Stargate 最早在 2028 年啟動,2030 年完成擴展,最后階段可能需要多達 5 吉瓦的電力。
這不禁讓我們想起了前段時間網絡上一直盛傳的 Altman 籌集 7 萬億美元造芯片廠的事(Altman 對此否認過),不過本著看熱鬧不嫌事大的網友調侃道「Sama 不知怎么說服了微軟再花 1000 億美元,不過,他仍需要 6.9 萬億美元。」
Altman 和微軟將這些超級計算機視為五個階段完成,其中第五階段為 Stargate。據兩位知情人士透露,微軟正在為 OpenAI 開發一款規模更小的第四階段超級計算機,計劃在 2026 年左右推出。現在,微軟和 OpenAI 正處于第三階段的中期。
第四、第五階段需要采購大量的 AI 芯片,成本約占目前正在建設的數據中心初始總成本的一半左右。總而言之,擬議的項目可能花費超過 1150 億美元,是微軟去年在服務器和其他設備上支出的三倍多。
微軟發言人 Frank Shaw 沒有對超級計算機項目發表評論,但在一份聲明中表示:我們始終在規劃下一代基礎設施創新,這些創新是繼續推動人工智能能力前沿所必需的。OpenAI 的發言人對此沒有做出評論。
Altman 曾私下表示,作為 OpenAI 的最大競爭對手之一,谷歌在短期內將擁有比 OpenAI 更多的計算能力,并且他公開抱怨 AI 服務器芯片沒有達到他的預期。
據參與討論的人士表示,Stargate 旨在讓微軟和 OpenAI 可以選擇使用 Advanced Micro Devices 等英偉達以外公司生產的 GPU,甚至是微軟最近推出的一款人工智能服務器芯片。
除了算力,微軟還必須克服技術挑戰。例如,目前提出的設計要求在單個機架上放置比微軟習慣的更多的 GPU,以提高芯片的效率和性能。由于 GPU 的密度更高,微軟還需要想出一種防止芯片過熱的方法。
OpenAI 總裁 Greg Brockman(左)和微軟首席技術官 Kevin Scott。
對于上述種種問題,微軟和 OpenAI 仍在敲定幾個關鍵細節,可能不會很快有結論。
對于 OpenAI 來說,證明其下一代大語言模型(LLM)比今天最先進的 GPT-4 有顯著優勢至關重要。OpenAI 一年前發布了 GPT-4,與此同時,谷歌也發布了一個類似的模型試圖趕上。據一位了解此過程的人士說,OpenAI 計劃在明年初之前發布其下一代 LLM 的重大升級。在此之前,OpenAI 可能會發布 LLM 的更多漸進式改進。
隨著更多服務器的可用,OpenAI 可以利用其現有的 AI 和最近的技術突破如 Q*,以在用盡人類生成的數據后訓練更好的模型。這些模型也可能會發現像 GPT-4 這樣的現有模型的缺陷,并建議技術改進 —— 換句話說,實現自我改進的 AI 或許快來了。