國產RISC-V狂奔:端側能跑大模型,AI計算成重頭戲
RISC-V邁向AI計算和高性能領域,應用和生態進一步壯大。
芯東西3月18日報道,國產CPU的路不好走,但走得人多了,希望就大了起來。當前三大指令集架構中,唯一不受商業公司牽制的RISC-V,正醞釀出越來越豐富的技術創新與商業成果。
這在上周的玄鐵RISC-V生態大會上得到集中展示,來自半導體IP、芯片、軟件等不同產業環節的代表性玩家們不僅踴躍曬出產品和工具進展,而且興致勃勃地分享RISC-V有望帶給中國芯片產業的新趨勢、新賽點、新機會。
14年前,全新開源指令集RISC-V在美國加州大學伯克利分校誕生。今天,RISC-V以遠超“前輩”的速度發展。據阿里巴巴達摩院院長張建鋒分享,從0到出貨100億顆芯片,RISC-V僅用10年,就走完了Arm 30年的歷程。
會上,倪光南院士和硅谷芯片領域傳奇人物Jim Keller發表致辭,采用國產RISC-V處理器的筆記本電腦“如意BOOK”首度亮相,達摩院預告首款基于RISC-V的安卓終端設備將在今年下半年大規模商業化落地,算能科技更是做到將大語言模型跑在基于RISC-V的加速器上。
從全天會議可以總結出這些趨勢:1、國內CPU市場有錢途,并對RISC-V逐漸敞開懷抱;2、自主CPU正迎頭追趕,已取得技術和生態上的重要進展,接下來想要抓住AI和高性能芯片的市場機會;3、國產RISC-V雖然聲量還不大,但生態鏈各環節都有企業在踏實且堅定地做事情。
1.RISC-V芯片賽道融資密集,逐漸走向高性能和大算力
三大指令集架構中,x86與Windows聯盟在PC領域獨孤求敗,Arm與安卓在移動終端領域叱咤風云,RISC-V的市占率跟兩位前輩沒法比,但就憑背負著自主可控的希望,不僅國內生態發展精氣神旺盛,戰略地位更是遙遙領先。
投資機構對RISC-V創企已給予許多積極反饋。從2023年1月到2024年1月,至少有16家研發RISC-V芯片的國內創企獲得新一輪融資,其中奕斯偉計算、進迭時空、希姆計算、藍芯算力、知合計算的最新單筆融資均達到億級。
▲國內RISC-V芯片初創公司新融資事件(2023年1月-2024年1月)
其中,國內不少RISC-V芯片創企的核心團隊都與大廠關系匪淺。例如,知合計算CEO孟建熠是前平頭哥副總裁,進迭時空聯合創始人陳志堅是玄鐵處理器主要研發負責人,藍芯算力創始人兼CEO盧山是前字節跳動服務器芯片負責人,之行無界創始人兼CEO楚含進是原AMD XR與計算平臺高級總監,晶遠芯創始人劉鋼是前西部數據中國區業務總經理,尚未公布融資動向的旭日辰芯由前英特爾中國區高管創辦。
目前中國有數百家公司在關注或以RISC-V指令集進行開發。RISC-V International的25個高級會員中有阿里、華為、騰訊等12家中國企業,去年達摩院領導了13個技術小組的標準制定。
張建鋒在演講中分享了一些數據:RISC-V正呈高速發展,在可穿戴MCU、計算筆記本、通信5G、消費級AI加速、工業智能電網、自動駕駛AI駕駛等主流應用中的占比接近或達到30%;未來幾年在主流市場年復合增長率預計超過40%。
倪光南院士預測,未來世界三大主流CPU生態將是:1)服務器/桌面的Wintel聯盟;2)移動終端的安卓Arm生態;3)智能物聯IoT的RV++(1套RISC-V指令集架構+1套基礎軟件+N種定制化芯片)。其中,AIoT生態會出現數萬種定制化需求,而RISC-V最有優勢。
他認為RISC-V自定義擴展指令是實現特定領域架構(DSA)的有效途徑,隨著RISC-V擴展指令集功能的充分發揮,芯片定制化或”芯片定義”將會被人們所普遍接受。
當前RISC-V發展呈兩大趨勢:一是邁向AI計算和高性能領域,二是應用和生態進一步壯大。
一方面,AI爆發帶來極大算力需求,RISC-V可增加其功能擴展性。RISC-V的模塊化和擴展性,允許定制指令集來優化特定類型計算操作,可根據AI工作負載特點提供定制化的加速器。RISC-V逐步走入高性能和AI計算的深水區。
張建鋒說,2023年,RISC-V架構在更多實際應用場景中得以落地生根,從物聯網設備、邊緣計算逐漸邁向AI計算、高性能計算等領域,產生代表性的應用案例,并以其開放性、靈活性和高效能贏得了市場和更多用戶的認可。
另一方面,全球70多個國家和地區參與RISC-V開放規范,產業更加壯大。RISC-V軟件生態逐漸成熟,在更多應用場景落地發芽。RISC-V應用規模和適配程度也不斷提高。
孟建熠感受到相比去年拿出來的更多是demo,今年拿出來的更多是產業化的東西。
“隨著新型算力需求激增,RISC-V正迎來蝶變,即將進入應用爆發期。”張建鋒總結說。
2.AI計算是重頭戲:RISC-V端側跑大模型能效更高
大會演講及會中交流傳遞出一個信號:AI計算被公認是RISC-V發展的焦點方向。
2023年5月,Meta基于RISC-V架構推出首代AI推理加速器;10月,高通宣布將與谷歌合作推出基于RISC-V架構、支持Wear OS系統的智能穿戴芯片,并將在全球市場進行商用推廣。
在玄鐵RISC-V生態大會上,硅谷芯片領域傳奇人物、加拿大AI芯片創企Tenstorrent首席執行官Jim Keller通過視頻連線的方式肯定RISC-V潛力無限,認為它有望打造出下一代AI引擎。
張建鋒宣布,達摩院面向AI加速、低功耗、安全等全面升級迭代玄鐵產品線。面向端側AI加速計算的玄鐵C907首次實現矩陣運算擴展,下一代高性能旗艦處理器C930也將于今年推出。玄鐵CPU家族朝著低功耗、AI加速、安全、車規四條主線演進。
算能直接放大招——基于RISC-V擴展指令打造大模型加速器SG2380,內置128GB DRAM和200GB/s內存帶寬,在移動終端支持大帶寬、大容量、大算力、語言類、視覺類大模型,并號稱實現“移動終端最強大模型性能”。算能高級副總裁高鵬認為采用RISC-V和存算一體等先進技術重構大模型算力成為熱點。
算能的RISC-V產品涵蓋通用算力與推理算力,實現了首個商業云部署的RISC-V集群落地。高鵬談道,RISC-V僅用8年就進入了服務器處理器領域,而x86用了18年、Arm用了35年。
面向電網建設,國網智芯基于玄鐵處理器研發了高能效工業級AI芯片,用于變電智能巡視、源網荷儲協同調度等場景;在ICT領域,中國電信研究院推動高性能RISC-V在電信端云一體場景下的產品化,并與玄鐵團隊合作研發了基于RISC-V的邊緣AI計算盒子TeleBox。
在接受媒體采訪時,達摩院玄鐵RISC-V團隊資深技術專家李春強談道,得益于開源開放、可定制、可擴展等特點,大家認為RISC-V是為AI而生的架構,因此玄鐵團隊從處理器IP的角度做了很多工作,來進一步提高AI性能。
其工作包括在指令集擴展維度上做更多的定義和推動制定標準,通過擴展定義的方式實現CPU和AI算力更高效地融合、持續探索架構創新,以及加大與合作伙伴在AI芯片領域的合作。
在他看來,剛興起的大模型對RISC-V來說是一個非常好的機會,因此達摩院在RISC-V指令集維度上后續會做多核并行計算、多核通信、存儲帶寬、大模型算法部署等方面的嘗試與布局。結合RISC-V的可定制可擴展,CPU+AI架構將衍生出更多的創新可能性。
“(對于)RISC-V現在來說,AI肯定是最重要的方向。”孟建熠談道,RISC-V在端側大模型推理方面有能效比高的架構優勢,今年會有一些客戶發布基于玄鐵處理器的大模型芯片。
他談到RISC-V要做好兩件事:一是AI,因為AI原生時代有擴展性;二是高性能計算,當前缺少真正大規模量產的高性能RISC-V芯片。知合計算與達摩院更多在高性能上合作,希望RISC-V架構創新能夠普及到高性能、高能效、AI算力。
CPU是做SSD的強有力后盾。由于內存很貴,業界希望將一些參數往更下一級存儲空間放,憶芯科技一直在關注這個方向。據憶芯科技合伙人朱旭濤分享,今年春節后蘋果出了篇在AI PC上應用該技術的論文,涉及將大模型應用在SSD上,這對CPU也會提出更多的要求。
3.RISC-V商業應用生態大爆發:已跑通釘釘、福昕PDF、搜狗輸入法
在玄鐵RISC-V生態大會會場,國產RISC-V展品琳瑯滿目,類別包括5G小基帶芯片、SSD芯片、AIoT芯片、服務器芯片等。
除了AI計算外,其中最受關注的當屬PC應用。
會上,中國科學院軟件研究所展示了基于RISC-V的開源筆記本電腦“如意BOOK”。這臺電腦綜合續航達12小時,集成了支持語音對話與文字交互的第三方大模型AI助手。
如意BOOK搭載玄鐵C910處理器、openEuler操作系統,可流暢運行釘釘、Libre Office等大型辦公軟件,首次打通了從底層芯片到操作系統到商用軟件的RISC-V全鏈路。
2023年,釘釘成為第一個在RISC-V上跑通的商用IM產品。此外,基于玄鐵處理器,RISC-V首次跑通了福昕PDF、搜狗輸入法等商業軟件。
中國科學院軟件研究所RISC-V負責人郭松柳期待有更多開發者基于如意BOOK進行原生RISC-V開發,共同豐富RISC-V的軟件應用生態。
在其他行業場景,RISC-V芯片也走向落地。
在汽車領域,已有頭部客戶使用玄鐵,達摩院會對可靠性、包括高實時的處理器做更多布局。
在通信領域,比科奇將RISC-V應用在5G基帶芯片。其第一顆高性能、低功耗5G小基站物理層SoC芯片PC802已經規模化量產。
比科奇芯片研發副總裁沈鉦說,作為整體解決方案提供商,比科奇希望把CPU的執行效率發揮到最高,RISC-V對集成而言是透明的,同時能效比高,峰值情況下能實現功耗不到10W。
他很看好RISC-V的生態發展。據他分享,當調度合理,很多RISC-V的小核可能比一個單一大核效率更高,因此比科奇PC802里面有兩個16核處理器,其中16核做高層次協議棧消息解析,另外16核做空口數據包處理,都是有很多個小任務、有很強的并行處理要求。
亞博智能推動RISC-V首次進入ROS機器人領域,基于玄鐵處理器的Mlik-V Meles開發板研發SLAM建圖與避障導航小車。
潤開鴻聯合達摩院在玄鐵處理器上更好地發揮了OpenHarmony分布式技術應用優勢,在金融、交通、醫療、教育等行業實現了商業化落地。
4.軟件是硬茬:算能要干“大炮仗”,首款RISC-V安卓設備今年登場
優化軟件是推動RISC-V生態發展的關鍵。
算能宣布了“一個改變世界的大炮仗”——甲辰計劃,目標在2036丙辰年之前,基于RISC-V實現從數據中心到桌面辦公、從移動穿戴到智能物聯網全信息產業覆蓋的開放標準體系及開源系統軟件棧,使RISC-V軟硬件的生態成熟度達到或超過主流架構的生態成熟度;在所有基礎關鍵行業領域完成面向RISC-V的適配與優化;形成超過1萬人的頂尖人才網絡。
高鵬認為,以RISC-V為目標指令,基于并行編程語言、編譯優化等技術,有望實現支持千/萬億參數大模型的新型開源編譯軟件框架,做到對CUDA的替代。
沈鉦相信不止是在基帶處理,其他領域做核選擇時,很多都會選擇RISC-V。而選擇RISC-V內核的重要推手是很多底層工作,涉及芯片平臺、軟件、操作系統、開發接口等等。
朱旭濤稱SSD芯片對CPU選型、實時性提升、軟件開發體驗非常關注,包括在使用效率上與業務有實際的貼合度、指令編譯和編譯系統對客戶的友好度、CPU和外部的一致性管理等,希望CPU朝更精簡指令集的方向做。
郭松柳提到RISC-V軟件生態發展的問題:1)面向通用高性能計算場景的基礎軟件供給尚不完善;2)應用軟件不豐富,復雜軟件的遷移和優化需多方努力;3)應從基礎軟件層面解決指令可擴展帶來的兼容性問題;4)計算需求加速變化——多樣性、智能化,有待統一的前瞻布局。
他還分享了基礎軟件開源共建的方向:1)充分利用AI支持,加速軟件移植和優化的進程;2)硬件與基礎軟件、應用軟件聯合起來,進行深度垂直優化,加強開源共享;3)操作系統、編譯器提供指令多樣性支持,一次編程,處處運行,編程環境和工具包要更強大、更通用;4)AI推理本地化、算力支持模塊化、生態拓展兼容化。
孟建熠也談道,RISC-V之所以可以走出來,得益于3點:1)體系結構發展歷程中積累了大量的非優化的“遺存”,而RISC-V軟硬件協同設計將帶來10倍以上的性能收益;2)計算架構演進需要共性技術底座;3)生態本質是降低全行業使用成本,迫切需要軟件生態統一。
在搭建平臺和補齊全棧能力上,阿里是國內涉足最早、投入最多的技術團隊之一,不斷推進從處理器IP到芯片平臺、編譯器、工具鏈等技術的軟硬件深度融合,提供云上RISC-V軟硬件全棧技術綜合測試和評估服務,還設立RISC-V學院。
去年8月發布的玄鐵多媒體AI軟硬件融合平臺,形成了面向業務的流水線設計,方便用戶在流水線的不同步驟上進行AI增強優化,內置多模態大模型、目標識別、圖像分割、視頻超分等算法。
在軟硬適配層面,玄鐵完成與安卓、Linux、OpenHarmony、Debian、Fedora、Gentoo、Ubuntu、龍蜥、統信、openKylin、openEuler、OpenAnolis、創維酷開系統、RTT等國內外主流操作系統的全適配,還推動谷歌、紅帽對RISC-V實現主線原生支持。谷歌安卓官方接受的首批RISC-V補丁就來自阿里。
新的產業聯盟也在組建。達摩院發起成立“無劍聯盟”,Arteris、芯昇科技、新思科技、Imagination、中國電信研究院等首批加入。
聯盟成員將基于玄鐵處理器緊密推進IP協同、工具鏈優化、操作系統及軟件適配、解決方案拓展、應用推廣等工作,以持續降低RISC-V開發成本,縮短產品及應用上市時間,讓終端廠商以更快的速度找到更適配的RISC-V方案。
5.結語:關鍵是讓RISC-V生態伙伴們賺到錢
十年之間,RISC-V從一個青澀的學生項目發展成如今最受期待的開源創新芯片生態,一路加速產業化進程,在不同行業場景實現應用創新。
“在全球半導體產業發展史上,開源開放的RISC-V第一次讓所有企業和開發者都能充分地、自由地貢獻自己的智慧。”張建鋒認為,RISC-V發展的動力不是要取代傳統架構,而是以開放創新充分發揮自身優勢。
“聚焦RISC-V發展中國芯片產業,有助于在新時期下貫徹實施「以科技創新催生新產業、新模式、新動能,發展新質生產力」的方針。”倪光南院士提出建議,我們應該發揮超大規模市場優勢和人才優勢,大力支持開源創新,與世界協同,促進RISC-V生態繁榮。
今天,在大廠闊綽出手匡扶、中小型廠踴躍參與的大趨勢下,選擇RISC-V的芯片和軟件越來越多,RISC-V越來越像一場專業的“全民運動”,將其開源、靈活、模塊化、可擴展的指令集架構與各個細分場景的高性能需求相結合,通過形成生態合力,裂變出更多創新的可能。
李春強透露道,達摩院會往產業化做更多事情,包括在RISC-V做更多原生,最關鍵的是,最終怎么讓合作伙伴在RISC-V生態圈真正賺到錢。
本文轉載自??芯東西??,作者: ZeR0?
