微軟正在為人工智能訓(xùn)練和深度學(xué)習(xí)應(yīng)用開發(fā)由微軟Azure云平臺(tái)托管的新型超級(jí)計(jì)算機(jī)，與英偉達(dá)的合作意味著微軟是首批大規(guī)模接受NVIDIA H100的公司之一。而在此之前，微軟公司和OpenAI公司在2019年達(dá)成了合作關(guān)系，并在微軟Azure云平臺(tái)上開發(fā)了第一臺(tái)超級(jí)計(jì)算機(jī)。 

H100是英偉達(dá)針對服務(wù)器實(shí)現(xiàn)的旗艦版加速GPU，提供更高的功耗和速度，與之前基于Ampere架構(gòu)的A100相比要快6倍。

極客網(wǎng)了解到，H100和A100 GPU將是微軟新構(gòu)想的超級(jí)計(jì)算機(jī)的核心，此外還有NVIDIA Quantum-2 400Gb/s InfiniBand網(wǎng)絡(luò)和NVIDIA AI Enterprise軟件套件。這項(xiàng)新業(yè)務(wù)還將利用微軟的云計(jì)算基礎(chǔ)設(shè)施（Azure）和虛擬機(jī)（ND和NC系列）。

據(jù)悉，通過這次合作，英偉達(dá)希望在無監(jiān)督(也可以是半監(jiān)督)算法學(xué)習(xí)方面取得更大的進(jìn)展，允許機(jī)器創(chuàng)建文本、代碼、數(shù)字圖像、視頻或音頻等內(nèi)容。該領(lǐng)域被廣泛稱為生成式人工智能。英偉達(dá)將利用Megatron Turing NLG 530B(它對OpenAI GPT-3的回應(yīng))來實(shí)現(xiàn)這一目標(biāo)。 

微軟將通過其開發(fā)的開源庫DeepSpeed來滿足人工智能和深度學(xué)習(xí)工作負(fù)載優(yōu)化。DeepSpeed可以幫助最小化網(wǎng)絡(luò)基礎(chǔ)設(shè)施的需求。該合作還確保Azure客戶將能夠訪問NVIDIA的企業(yè)級(jí)人工智能和數(shù)據(jù)分析工具、軟件和框架的云原生套件，即NVIDIA AI Enterprise軟件套件。

英偉達(dá)企業(yè)計(jì)算副總裁Manuvir Das表示：“我們與微軟公司的合作將為研究人員和企業(yè)提供最先進(jìn)的人工智能基礎(chǔ)設(shè)施和軟件，以利用人工智能的變革力量。” 

英偉達(dá)目前擁有一臺(tái)Selene超級(jí)計(jì)算機(jī)，這是新冠疫情期間建造的。它基于A100, 人工智能峰值性能達(dá)到2.8 exaflops，在HPL上達(dá)到petaFLOPS。它被用于機(jī)器學(xué)習(xí)、人工智能數(shù)據(jù)分析和高性能計(jì)算(HPC)，以及用于訓(xùn)練人工智能模型GauGAN2。與OpenAI的GLIDE和DALL-E一樣，GauGAN2可以將草圖和文字合成為像照片一樣逼真的圖像。 

此外英偉達(dá)還有為先進(jìn)的氣候科學(xué)研究、數(shù)字生物學(xué)和人工智能的未來而建造的NVIDIA Eos，它有576個(gè)DGX H100系統(tǒng)和4608個(gè)DGX H100 GPU，將提供18.4 exaflops的人工智能計(jì)算性能和275 petaflops的常規(guī)科學(xué)計(jì)算性能(HPL)，比日本的Fugaku(目前在Top500榜單上排名第二)快4倍。

然而，英偉達(dá)對Selene(Top500榜單第9名)和正在開發(fā)中的Eos生成式人工智能超級(jí)計(jì)算機(jī)都不看好。微軟云計(jì)算和人工智能業(yè)務(wù)執(zhí)行副總裁Scott Guthrie解釋稱：“我們與英偉達(dá)的合作將構(gòu)建世界上最具擴(kuò)展性的超級(jí)計(jì)算機(jī)平臺(tái)，為微軟Azure云平臺(tái)上的每個(gè)用戶提供最先進(jìn)的人工智能功能。” 

從本質(zhì)上來說，這兩家公司的合作旨在實(shí)現(xiàn)生成式人工智能超級(jí)計(jì)算的可擴(kuò)展性，而不僅僅是純粹的能力提升。 

英偉達(dá)企業(yè)計(jì)算副總裁Manuvir Das表示:“客戶可以在單個(gè)集群中部署署數(shù)千個(gè)GPU，以訓(xùn)練最大規(guī)模的大型語言模型，大規(guī)模構(gòu)建最復(fù)雜的推薦系統(tǒng)，并大規(guī)模實(shí)現(xiàn)生成人工智能。” 

英偉達(dá)還在通過Omniverse Cloud工具和服務(wù)套件擴(kuò)展3D內(nèi)容、設(shè)計(jì)和模擬。使用Omniverse Cloud，開發(fā)3D內(nèi)容的工具甚至可以在沒有采用GeForce或NVIDIARTX硬件或任何其他高性能的傳統(tǒng)計(jì)算機(jī)上運(yùn)行。 

Das強(qiáng)調(diào)，“人工智能技術(shù)的進(jìn)步和行業(yè)采用正在加速，而基礎(chǔ)模型的突破引發(fā)了研究浪潮，培育了新的創(chuàng)業(yè)公司，并開發(fā)了新的企業(yè)應(yīng)用。”