成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

全調度以太網(GSE),中國智算網絡新標準

網絡
銳捷網絡致力于與 GSE 生態一起打造中國的AIGC智算網絡新標準。

伴隨著智算技術的發展,越來越多的研究表明在 AI 訓練達到一定規模下能力才會涌現,在AI大模型的擴展定律和涌現能力的驅動下,AI大模型的參數規模越來越大。國內外業界已出現多個萬億參數模型,十萬億參數模型在不遠的將來也有望問世。公開資料表明,GPT-4 的參數體量比 GPT-3 增長了 10 倍,達到 1.8 萬億參數。國內的盤古、悟道大模型,其參數規模同樣超過了萬億。

注:數據截至23年3月,資料來源:北京智源人工智能研究院,中金公司研究院

美國當地時間7月22日,特斯拉CEO埃隆·馬斯克在旗下社交平臺X上表示,xAI團隊、X團隊、英偉達及其他支持公司已經于當地時間凌晨4時20分開始在“孟菲斯超級集群(Memphis Supercluster)”上進行訓練。“孟菲斯超級集群”由10萬個液冷H100 GPU組成,在單個RDMA結構上運行,是“世界上最強大的人工智能訓練集群”,該集群將被用于訓練xAI旗下第三代大語言模型Grok-3。大規模AI計算從萬卡進入到十萬卡時代。

大規模智算集群需要高性能的網絡連接,以保證各智算節點間的通信效率、數據吞吐和整個智算集群的算力性能。這對智算網絡提出了新的挑戰。

在基礎訓練模型中,一方面多任務混合部署,傳統以太網源端發流直接采用網絡“Push”流量模式,不考慮網絡及接收端的接受能力,導致網絡擁塞,使得 GPU 處于等待狀態,造成梯度和參數同步過程中算力資源浪費較大,傳統的 RoCE 網絡有效吞吐僅為 50%;另一方面,智算集群網絡流量呈現出數據流數目少、單流流量大的特點,在傳統網絡均衡算法下容易引發HASH 沖突,造成鏈路丟包,導致訓練異常中斷,極大影響訓練效率。時代呼喚 “零丟包”、“高吞吐”、“低時延” 為核心特征的無損智算網絡設備,來解決超大規模 AI 計算通信效率低的問題。

當前全球已商用的智算網絡技術,主要有2大流派:

流派1:IB(InfiniBand)網絡,是目前市場占有率最高的智算網絡解決方案,IB 技術較為封閉,市場基本被英偉達壟斷,不符合全球開放生態的產業共識。

流派2:RoCE(RDMA over Converged Ethernet)網絡,RoCE廣泛應用于需要高帶寬和低延遲的網絡,在傳統的通算領域有很高的占有率,但是RoCE在智算網絡中存在流量HASH極化的問題,需要輔助以各種均衡調參進行智算網絡的適配。

為了更好的提升智算網絡性能,更好的服務于大規模 AI 計算,出現了更多的新型技術流派:

新技術流派1:UEC(Ultra Ethernet Consortium)網絡,2023 年 7 月Linux 基金會與全球頭部科技企業聯合成立 UEC 以太網創新聯盟,其創始成員包括AMD、Arista、博通、思科、HPE、Intel、Meta、微軟、Oracle和Eviden,致力于從物理層、鏈路層、傳輸層、軟件層改進以太網技術的革新,來滿足 AI 計算網絡的需求。

新技術流派2:GSE(Global Scheduling Ethernet)網絡,中國智算中心的建設熱潮始于 2020 年,目前已有 40 多個城市在建設或在建智算中心。智算中心建設步伐加快,但國內的網絡技術發展卻滯后于 AI 大模型的演進。 AI 網絡技術上的競爭已經成為中美技術博弈的新戰場。在這樣嚴峻的形勢下,2023 年 5 月,中國移動聯合產業界發布了全調度以太網(GSE)白皮書,同年8 月全調度以太網推進計劃正式開啟,標志著具有中國自主技術的 GSE 流派正式誕生

GSE 是一個開放的生態組織,2023 年 9 月,中國移動發布推GSE 交換機原型系統樣機。2024 年 1 月在移動實驗室完成了GSE 交換機多廠商設備的互聯互通測試。







GSP設備 GSF設備

GSE 網絡,專為大規模 AI 訓練集群打造:

  • 按需調度,性能無損

GSE 網絡基于 PKTC 容器技術,實現了高精度的網絡負載均衡,從根本上改善了傳統 AI 算力網絡鏈路的帶寬利用率;采用基于 DQSQ 的信令申請調度技術,數據流以“Pull”的方式進行轉發,突破了傳統以太網的性能瓶頸,網絡性能提升至 95%以上。


PKTC容器技術


DGSQ調度技術

在多業務部署場景下,相較于傳統 RoCE 網絡性能大幅下降,GSE 交換機能保持與單業務場景持平的網絡轉發性能,極大提升網絡效率。

  • 場景靈活,快速部署

GSE 純網側方案即可滿足智算無損需求,可搭配國產 GPU 集成網卡,降低端側網卡要求。GSE技術原生解決了適配不同大模型訓練的網絡調參問題,避免了傳統RoCE達數天甚至數周的網絡參數調優,在算力昂貴、AI大模型競爭激烈的市場中,為客戶帶來靈活的算力網絡建設方案,縮短了訓練調優周期,幫助客戶快速搶占市場先機。

  • 全局解耦,開放生態

GSE 技術體系支持標準以太網標準,新增標準協議頭,完成基于以太報文的轉發,實現端到端的多廠家設備互聯互通,構建了多廠家充分參與的開放生態,全面激活國內 AI 產業鏈,促進智算產業創新發展。

GSE標準協議頭

總結

銳捷網絡致力于與 GSE 生態一起打造中國的AIGC智算網絡新標準。GSE 網絡設備基于標準以太網在轉發架構方面進行技術創新,突破傳統以太網的性能瓶頸,拓展智算網絡的應用場景,充分滿足國產化智算集群網絡的需求,為客戶帶來了三大核心價值:提高智算效率,增強運維體驗,開放生態解耦。

責任編輯:張燕妮
相關推薦

2011-09-29 10:34:35

以太網標準

2015-07-13 13:47:34

以太網標準帶寬

2012-04-18 10:29:19

WiFi

2011-03-21 13:24:40

節能以太網數據中心

2023-12-18 14:22:56

銳捷算力

2011-06-21 10:50:01

IEEE802.1Qbg802.1Qbh

2012-11-28 09:28:47

同軸電纜以太網

2012-10-19 09:42:26

以太網400G以太網兆兆以太網

2014-06-10 15:52:23

云網絡以太網NetEvents

2023-12-21 10:11:37

銳捷網絡

2013-05-27 09:37:15

IEEE802.3以太網400G以太網

2010-03-10 13:29:01

以太網交換機

2024-06-28 09:47:35

銳捷網絡通信

2013-12-19 09:16:15

以太網結構以太網

2015-03-13 09:29:28

千兆以太網10 GbE

2016-12-28 17:41:56

以太網網絡John D’Ambr

2010-02-04 15:32:33

光纖以太網交換機

2015-01-07 09:42:55

5G25G以太網

2020-09-10 17:34:38

以太網電池IEEE
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 国产精品91久久久久久 | 欧洲色| 黄色片视频 | 欧美大片久久久 | www精品美女久久久tv | av毛片 | 亚洲在线一区二区 | 一区二区精品在线 | 一区二区视频在线观看 | 91久久夜色精品国产网站 | 国产精品综合色区在线观看 | 成人网av| 免费黄网站在线观看 | 久久久青草婷婷精品综合日韩 | 欧美日本免费 | 国产精品久久久久久久久久久新郎 | 日本黄色激情视频 | 日韩精品一区二区三区中文在线 | 国产成人精品久久二区二区 | 日本亚洲一区 | 麻豆一区二区三区精品视频 | 久久亚洲视频网 | 精品伦精品一区二区三区视频 | 麻豆va | 韩日精品一区 | 欧美一级α片 | 中国大陆高清aⅴ毛片 | 免费精品 | 日韩久久成人 | 在线观看www | 五月激情婷婷网 | 精品久久精品 | 欧美精品在线免费 | 久久久www成人免费精品张筱雨 | 成人精品免费视频 | 亚洲欧美精品在线 | 福利社午夜影院 | 在线观看日韩 | 黑人巨大精品欧美一区二区免费 | 日韩国产欧美视频 | 中文字幕日韩欧美 |