OneFlow和寒武紀達成適配,共同推進新一代超大模型訓練解決方案
近日,一流科技OneFlow深度學習框架正式和寒武紀思元270智能芯片及加速卡達成適配。這一合作達成,標志著OneFlow新一代深度學習框架的生態進一步得到完善,與新興AI芯片進一步融合。
目前 OneFlow 通過集成寒武紀的高性能機器學習庫,已經支持主流神經網絡算子,并能支持在各類應用場景下的模型部署,如分類、檢測、分割、風格轉化等模型。下一步,雙方將持續深化合作,以“大規模分布式”為目標,積極探索OneFlow深度學習框架和寒武紀其他產品的打通,豐富訓練模型和應用場景。
一流科技的OneFlow深度學習框架被稱為“新一代深度學習框架”,其核心優勢在于用幾行代碼就可以完成其他深度學習框架需要深度定制才能做到的“超大規模分布式模型訓練”。OneFlow秉承“效率為王”的開發理念,擁有完全自主知識產權,所有代碼全部自研。獨創的自動數據模型混合并行、靜態調度、去中心化和全鏈路異步流式執行四大核心技術,使用純軟件技術完美地解決了大數據、大模型、大計算所帶來的異構集群分布式橫向擴展挑戰,技術水平世界領先。在由中國信通院發布的《首輪開源深度學習軟件框架測試報告》中,OneFlow深度學習框架在同樣的算法和硬件條件下性能指標大幅領先國外產品。
寒武紀思元270集成了寒武紀在芯片架構領域的一系列創新性技術,基于16nm先進工藝制造,處理非稀疏深度學習模型的理論峰值性能提升至上一代MLU100的4倍,達到128TOPS(INT8),同時兼容INT4和INT16運算,理論峰值分別達到256TOPS和64TOPS,并支持浮點運算和混合精度運算。思元270采用寒武紀自研的MLUv02指令集,可支持視覺、語音、自然語言處理、傳統機器學習等高度多樣化的人工智能應用,同時集成了面向視覺應用的視頻和圖像編解碼硬件單元。在系統軟件和工具鏈方面,思元270繼續支持寒武紀Neuware軟件工具鏈,方便開發者更好地挖掘思元270的運算能力和開拓更多的應用領域。
隨著數據量級的增長,超大模型訓練已經成為業界共同的訴求,對此,一流科技CEO袁進輝表示:“寒武紀是新興人工智能芯片的領軍企業之一,很高興雙方可以達成合作。超大模型訓練不是單一技術可以解決的問題,需要算法、算力、數據“三駕馬車”的齊頭并進,軟件和硬件的結合是非常重要的。OneFlow作為新一代深度學習框架,從誕生之初就以“大模型分布式”作為設計理念,我們希望通過和像寒武紀這樣優秀的硬件合作伙伴共同進行生態建設,來滿足開發者和算法科學家對超大模型的應用需求,加快企業數據資產轉化,促進人工智能應用場景落地。”
寒武紀副總裁劉道福表示:“寒武紀做芯片的最終目的是支撐客戶以及開發者開發應用,構建完整的生態。寒武紀自成立起就一直秉承開放的理念,與產業鏈上下游通力合作,共同促進整個AI產業的生態繁榮。此次與一流科技完成MLU270的軟硬件適配,既契合了寒武紀的開放生態戰略,又將進一步賦能寒武紀云邊端一體、軟硬件協同、訓練推理融合的新生態,寒武紀將攜手一流科技以及各行各業為整個AI行業貢獻更大的動能。”