IBM研發新型神經網絡芯片高度匹配GPU
近日,《自然》雜志上的一篇論文中,IBM Research博士后研究員Stefano AmbrogioAmbrogio和他的同事們描述了他們利用新興的模擬記憶和更傳統的電子元件組合創造出了一種芯片,這種芯片可以與GPU的精度相匹配,同時運行速度更快,能耗更少。
該芯片中運用“突觸單元”解決了存儲技術難以訓練深層神經網絡的問題,以前在訓練深層神經網絡時,需要將每個神經元的權重進行上下數千次的刺激,直到網絡完全對齊,當改變這些設備的電阻時,又需要重新配置它們的原子結構,并且每次的操作過程都不一樣,所以,這些刺激并不總是完全相同,導致了對神經元權重的不精確的調整。但是新研發的“突觸單元”則可以使每一個“突觸單元”都和網絡中的單個神經元相對應,同時具有長期和短期記憶。每個單元格由一對相變存儲器(PCM)單元和三個晶體管以及一個電容的組合構成,PCM可以在電阻中存儲權重數據,而電容可以將權重數據存儲為電荷。
Ambrogio表示,最終的芯片將被設計成可以與GPU合作的形式,從而在處理其它連接時也能夠處理全連接層的計算。他還認為,這種處理全連接層的更有效的方法可以被更廣泛地應用。
而對于該芯片的應用,Ambrogio表示:一是可以將人工智能應用到個人設備上,二是使數據中心更加高效。如果直接在個人設備上應用人工智能,用戶就可以不必在云端分享他們的數據,從而增加隱私性,而更令人興奮的前景是人工智能的個性化——在汽車或智能手機上應用這個神經網絡,智能設備就能夠不斷地從人們的經驗中學習。