腦子這個好東西,我們模仿得怎么樣了?類腦計算報告
本文經AI新媒體量子位(公眾號ID:QbitAI)授權轉載,轉載請聯系出處。
技術篇:當前處于運算智能到感知智能的過渡階段
正如我們所見,人工智能是靠著龐大的數據量和精確計算,在近些年取得了不少令人矚目的進步。
但與人腦相比, 其基于的深度神經網絡(DNN)在信息處理的效率,即速度和功耗上,表現仍不夠好。
其中“速度”是指它在計算不同神經層的輸出是以順序的方式進行,導致每層都必須等待上一層的輸出計算完成后才能執行下一步,缺少架構靈活性。
“功耗”則是指在馮諾依曼架構下,龐大的數據量意味著頻繁且大規模的運算,隨之而來的就是功耗的極速上升。
而我們的人腦靠其中的神經元以脈沖的形式進行信息傳遞,約870億個神經元高度非線性地工作,每個神經元在外部和內部都與其他神經元有多達10000個連接,承載著數十萬個協調的并行過程,功耗卻只要20W左右。
于是人們就把一部分目光投向了類腦計算。
從定義上來看,目前的類腦計算可以分為狹義和廣義兩種。
狹義類腦計算指的就是模仿大腦神經結構和工作原理而創新出來的神經形態計算,學術界稱其為Brain-like Computing。
廣義的類腦計算則是在借鑒腦的結構和工作原理的同時,又不局限于對腦的模擬,還會融合傳統的人工神經網絡 (ANN)等具有更多類腦特征的異構神經網絡,學術界稱其為Brain-inspired Computing。
相比于深度學習中的DNN,類腦計算的研究主要圍繞SNN網絡展開。
所謂SNN,全稱脈沖神經網絡,是第三代人工神經網絡。它以0/1脈沖序列表達信息流,編碼里包含了時間信息,與ANN最大的區別是具有時序性。
只有當神經元膜電壓積累到特定的電壓閾值時SNN的神經元才會放電(發放脈沖),并不會在每個信息傳遞的周期都被激活。
下面是ANN網絡和SNN網絡的詳細對比:
目前,在業內形成了四個影響較大的SNN模型,包括最接近生物神經元的H-H(Hodgkin-Huxley)、使用最廣泛的LIF、結構最簡單的Izhikevich以及更具通用性的SRM。
BindsNET、Spyketorch等少數平臺可以支持大規模SNN的構建與訓練。
不過,對于各種SNN模型,目前還沒有一個統一的訓練算法,主流的至少包括三種:
以上的SNN模型和算法,再加上仿真框架以及數據集,就構成了類腦計算技術生態的軟件部分。
硬件生態部分則主要包括類腦芯片和新型存儲器。
其中,類腦芯片大致分為三類,包括:
- 支持脈沖神經網絡的神經形態芯片:TrueNorth、Loihi、達爾文芯片等;
- 支持人工&脈沖神經網絡的異構融合芯片:天機芯、Loihi2、領啟KA200;
- 支持神經元編程的腦仿真平臺:SpiNNaker、BrainScaleS、領啟KA200等。
新型存儲器主要指憶阻器,它結構簡單、集成密度高,理論上一個就可以實現神經突觸的功能,可極大的提升突觸密度,是從硬件層面實現類腦神經網絡的高效方式之一。
熱門的研究方向集中在RRAM(阻變憶阻材料)和MRAM(磁性憶阻材料),其中已有公司在做RRAM的商業落地。
從科研進展上來看,歐美國家在整體上具有先發優勢。
類腦計算這個概念最早是在上世紀80年代,由一個叫做Cuver Mead的美國科學家提出。
1995年,瑞士蘇黎世聯邦理工學院和蘇黎世大學率先聯合成立神經信息研究所(INI),正式開創了類腦計算相關研究的先河。
到了2004年左右,這項技術就開始得到了IBM、曼徹斯特大學等多所知名機構的正式“青睞”。
隨后,越來越多的成員加入該隊列。
總的來看,國外主要以IBM、英特爾、德國海德堡大學、曼徹斯特大學等為代表,成果包括以下這些:
國內類腦計算的研究始于2014年左右,以清華大學、浙江大學、中科院等為代表,主要成果包括異構(SNN+ANN)融合的“天機”芯、達爾文芯片以及該芯片組成的類腦計算機等。
據業內人士分析,整體來看,類腦智能的發展將會經歷運算智能-感知智能-認知智能-自主智能四個階段,每個階段對應的應用價值都有所不同:
運算智能階段的應用主要集中于低功耗的移動設備、可穿戴設備、IoT智能軟件和具備實時性的端側離線信息處理工具。
感知智能階段的應用主要包括事件驅動視覺傳感器、神經擬態觸覺傳感器等,應用場景分別包括手勢識別、汽車高速避障、工業視覺、機器人靈巧手等。
認知-自主智能階段則會衍生出各種自適應機器人,是很多類腦公司想要實現的長期目標。
現在,類腦智能正處在從運算智能到感知智能的階段,除了前文提到的還沒有標準化算法的實現方式以外,還面臨以下4個研究難點:
1、大腦信息處理的數學原理與計算模型并不完全清楚
神經網絡架構是類腦研發的基礎。當前遇到的問題是網絡的拓撲結構、大小和確切性差異很大,尚不清楚網絡應該建多大,以及必須有多少互連才能展示出更好的生物特性。
2、類腦器件和材料需要新的技術突破
新型納米器件尚存在工藝穩定性差、規模化難度高等問題,類腦系統需要數以百億的神經元協同工作,而現有類腦芯片硬件資源有限,難以實現大規模神經元互連集成和神經元脈沖信息高效實時傳輸。
3、沒有公認的benchmark來衡量該領域的進展情況
4、最后就是目前觀測大腦的手段單一。不過根據國內學者預測,人腦神經網絡精細圖譜有望在20年內完成。
盡管面臨的問題還不少,但類腦的商業化落地已經在摸索中開始并前進了。
產業篇:全球已有3家實現量產
目前,類腦智能的發展處于商業化前期的探索階段,相關類腦創企融資輪次基本都處于A輪,但融資金額基本都在億元以上。
根據量子位智庫的調研,在現在這個階段,商業化公司瞄準的均是端側/邊緣類市場, 其中主要有兩個方向:感知類芯片和計算類芯片。
整體來看,做類腦計算(處理器)的公司要多于類腦感知(傳感器)的公司。
國內方面,約有10家相關創企,成立時間基本集中于2017年和2018年。
專注類腦研究的公司和創新轉化平臺則有3-5家左右,代表玩家之一靈汐科技已在去年實現類腦芯片(或產品)量產,時識科技(前身為瑞士蘇黎世的aiCTX)也將在今年年底或明年實現量產出貨。
其中靈汐科技在成立年限上雖屬于創業公司范疇,但其研發早在2013年清華大學成立類腦研究中心時便開始。
國內其他類腦創企則包括下面這幾家(完整名單見報告):
海外方面,相關創業公司多集中于歐洲和美國,公司數量略多于中國。
其中有不少和靈汐科技一樣,也是直接從相關大學或研究所的類腦研究成果中孵化而來。
值得注意的是,國外出現了全球唯一一家上市的類腦計算公司:成立于2014年的Brainchip。
不過它的股價長期低迷,營業收入也不夠可觀(去年營收僅160萬美元)。
這可能與Brainchip的產品在性能上并沒有呈現出明顯優勢有關,也側面反應出類腦的商業價值在二級市場上可能受到爭議。
再來看生態建設的情況。
這方面基本還是大型半導體企業比如英特爾在做。
在國內,未出現大型公司主導類腦計算研究的情況,但代表玩家靈汐科技在戰略目標上與英特爾、SpiNNaker一致,希望成為新一代算力基礎設施提供商。
分析師將類腦生態的上游總結為硬件制造商、IP授權方及類腦公司的商業化伙伴(國內的類腦公司選擇的多為國產芯片制造商)。
中游劃分為類腦研發機構與商業化公司;下游則為類腦當前已經展開合作與布局的應用領域。
最終形成如下的類腦生態圖:
具體應用場景上,目前的類腦解決方案基本都是首先從低維度信息處理和高速視覺處理開始,主要面向端側可穿戴設備、攝像頭和終端設備。
在此基礎上,未來將加入在復雜環境中的實時決策能力,對應場景為無人機和自動駕駛。
隨著類腦技術(大規模并行計算、自主學習等)和類腦產業的成熟,在更長的維度上,類腦的應用場景將覆蓋數據中心以及自主機器人。
此外,類腦芯片由于其低功耗的特征,非常適合人體植入(可植入式疾病治療)、腦機接口等應用領域。
目前國內外總共僅有3家左右實現類腦產品的初步量產,量子位智庫分析行業遇到的商業化阻礙主要包括以下幾方面:
首先對于創業公司來說,存在著客戶替換成本高的問題。
因為芯片行業的發展是圍繞產品建立龐大生態的過程,類腦在產品化過程中,由于其底層邏輯(高度仿腦)與現有計算機的邏輯存在根本差異,導致其融合過程的難度增加,相關客戶想要做替代的成本/難度將會非常高。
另外,類腦的價值建立在多項基礎科學的突破和交叉融合之上,如新型器件需要材料的創新,算法的有效性建立在神經科學的突破上,初創公司還缺乏相應的資源和資金進行創新。
其次,對于大型半導體公司來說,類腦計算在一定程度與其現有核心業務之間存在競爭關系。他們一般會等到前沿技術在市場上得到充分驗證后,再進行商業化。
而且對于一些公司來說,其研發投入來自國家或政府,而不是靠商業化盈利。在這種情況下其研發資金有充足保障,在投資方撤資前,這項技術通常不會將商業化納入考慮范圍,比如IBM的TrueNorth項目,其主要服務于美國軍方部門。
最后,從整體上來看,目前圍繞類腦的研究人員和開發者數量有限,這也是限制類腦智能規模化發展的因素之一。
但盡管如此,分析師認為,眼下類腦計算還是存在著兩條非常有潛力的商業化路徑:
大規模并行計算硬件平臺(計算類)和基于事件驅動特性的產品(傳感類)。
其中,后者是最有可能率先實現商業化落地的方向。
一方面因為事件驅動特性能夠解決 AI 細分市場當前面臨的迫切問題——能耗高;另一方面,事件驅動的技術成熟度更高,已有公司開發出完整的解決方案。