清華全球首顆片上學習憶阻器存算一體芯片,成果登上Science
10 月 9 日,清華大學官微報道了該校研制全球首顆支持片上學習憶阻器存算一體芯片的成果。
近日,清華大學集成電路學院吳華強教授、高濱副教授基于存算一體計算范式,在支持片上學習的憶阻器存算一體芯片領域取得重大突破,研究成果已發表于最新一期國際科學期刊《科學》雜志。
據清華大學介紹,記憶電阻器(Memristor)是繼電阻、電容、電感之后的第四種電路基本元件。它可以在斷電之后,仍能「記憶」通過的電荷,可成為新型納米電子突觸器件。
自 2012 年以來,清華大學錢鶴、吳華強團隊從憶阻器件、原型芯片再到系統集成,逐步協同攻關了 AI 算力瓶頸難題,新的研究一定程度上攻克了「卡脖子」關鍵核心技術。
論文《Edge learning using a fully integrated neuro-inspired memristor chip》如下。
論文地址:https://www.science.org/doi/full/10.1126/science.ade3483
研究概覽
我們知道,基于憶阻器的計算技術近來受到了極大的關注,該技術有可能克服傳統計算架構所謂的「馮諾依曼瓶頸」。憶阻器特別的地方在于可以為各種邊緣智能應用實現實時的、高能效的片上學習,即使完全片上學習的實現仍然具有挑戰性。
下圖 1 為使用神經啟發憶阻器芯片的邊緣學習,A 展示了人類大腦具備的改進學習能力。B 為基于憶阻器的神經啟發計算芯片的設計和未來應用。這種芯片為完全片上學習設計,將所有必要的模塊與憶阻器陣列集成在一起,使邊緣 AI 設備具備了學習能力,從而快速適應新場景。
為了解決相關問題,清華大學集成電路學院博士生張文彬、博士后姚鵬等人提出了一種基于憶阻器特征符號和閾值的學習架構(STELLAR),并制作了一個全系統集成芯片。該芯片由多個憶阻器陣列以及支持完整片上學習的所有必要互補金屬氧化物半導體外圍電路組成。
下圖 2 為用于片上學習的憶阻器特征架構設計,A 為憶阻器芯片中使用的 STELLAR 架構,B 和 C 為分類準確率的比較,D 為具有差分電導對(左)以及 1T1R(中)和 2T2R(右)配置的權重,E 為循環并聯電導調整方案。
下圖 3 為用于片上學習的憶阻器芯片,A 為架構概覽,B 為芯片的光學顯微鏡圖像,C 為 2T2R cell 的橫截面透射電子顯微鏡圖像。
研究者展示了在各種任務上的端到端片上改進學習,比如運動控制、圖像分類和語音識別,實現了媲美軟件的準確率和較低的硬件成本。該工作標志著存內計算領域邁出了重要一步。
下圖 4 為憶阻器芯片的改進學習示例,A 為運動控制任務(左)及其控制系統,B 為光追車(Light-chasing car)新樣本學習,F 為圖像分類任務中新類別學習。
我們來看以下幾個動圖演示。
首先是手寫數字新類別學習任務。
此外可以在運動控制領域改進學習。如下所示,在改進學習之前,向前移動的藍車往往會錯過目標紅車。
在改進學習之后,向前移動的藍車會先有一個向后倒的動作以做調整,最終繼續向前駛向目標紅車。
不僅如此,在明亮場景下沒有改進學習之前,藍車往往會在追隨過程中偏離目標紅車。
在明亮場景下有了改進學習之后,藍車很好地適應調整,始終追隨目標紅車。
張文彬、姚鵬作為學術論文的共同第一作者,博士期間接觸了大量如半導體、微電子、軟件算法和類腦計算等不同方向的科研知識,積累了豐碩的研發成果和豐富的工程建設經驗。
研究團隊合影。