成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

CPU和GPU之后的下一代計算系統

商務辦公
過去幾十年中,電子計算能力呈現幾何指數增長,并從根本上改變了我們的工作,生活和互動方式。

 過去幾十年中,電子計算能力呈現幾何指數增長,并從根本上改變了我們的工作,生活和互動方式。而未來在未來甚至會引發更大的發展變革。回看歷史,基于摩爾定律的計算能力發展主要由兩個因素驅動:1、電子設備的巨大規模化驅動的,2、器件尺寸的減小顯著改善了成本,速度和功耗。為了保持這種發展趨勢,必須投入了大量資源來維持擴展趨勢,目前已能大規模制備集成數十億納米級晶體管的芯片,并為今天的智能手機和超級計算機提供計算動力。然而,隨著制造成本的增加和即將到來的基本物理限制,單純通過器件縮放不再能夠提供所需的性能增益。

特別是,隨著摩爾定律的臨近終結,半導體行業一直處于“正在瀕臨死亡”的階段,許多技術都在尋求填補后摩爾時代遺留的技術真空。

[[254632]]

而憶阻器則是可能性技術之一。作為最近研發的四種基本電子元器件,憶阻器結構形式非常簡單,總共僅需要三層—— 兩個發送和接收電信號的電極以及之間的“存儲”層。從外部看,憶阻器看起來像一個電阻,因此具有高密度集成和低成本制造的巨大潛力。然而,不同于靜態電阻,憶阻器中的存儲層的物理參數可以通過電學刺激而重新配置,并且會形成記憶效應,其中物理參數的變化(電阻)可用于數據的存儲和處理。

 

圖1 電阻器,電容器,電感器,憶阻器的概念之間的對稱性

因而,我們可以稱具有記憶效應的電阻器件即為憶阻器(存儲器+電阻器),或定義為憶阻系統。在存儲器中所使用的憶阻器也通常被稱為電阻式隨機存取存儲器(RRAM)。基礎理論研究表明,典型的憶阻器特征尺寸可以降低到10nm以下,存儲狀態維持數年,同時具有開啟速度快(亞秒級別),長寫擦除耐力和低編程功耗等特點。應該注意的是,盡管目前可以實現了某一特性的重復制備,但同時集成多種功能的單一憶阻器材料仍然是一個巨大的挑戰。

基礎材料和器件測試表征表明,憶阻器中電學重新配置通過存儲層內部離子再分配驅動形成的。通常存儲層為幾納米厚,因此較低的電勢即可產生足夠大的電場用以以驅動離子遷移并改變材料的離子分布形式。存儲層常見的再分配方式包括存儲層的陽離子或陰離子的物種氧化,遷移和還原,這些變化導致存儲層材料局部電導率發生變化,從提高或降低導電區域。這個過程可以是突變(二進制)或漸變(類似物),并且伴隨不同時間尺度發生不同的物理過程。因而通過材料篩選和驅動模式的改變可以使簡單的器件能夠產生豐富的結構變化。

在本文中,我們主要是評估基于憶阻器模式的新型計算系統的優勢與劣勢,以及在未來中是否能夠超越摩爾定律,取代現有計算模式。未來將會從憶阻器開發中獲益匪淺的主要有三種類型的計算系統,如圖2所示:片上存儲(on-chip memory and storage),神經網絡模式(biologicallyinspired computing)和存儲計算(in-memory computing)。基于憶阻器的計算模式可以幫助克服當今計算架構面臨的障礙,并且能夠用于未來的計算需求:認知處理,大數據分析和基于物聯網的低功耗智能系統等計算系統。

 

圖2:未來計算解決方案的競爭

傳統的計算架構面臨著各種挑戰,包括散熱,存儲和摩爾定律。憶阻器技術可以提供一種替代路徑,實現存儲-邏輯集成,神經網絡計算和高效的內存計算系統。CMOS,互補金屬氧化物半導體; GPU,圖形處理單元; CPU,中央處理單元。

馮諾依曼瓶頸?

現今,傳統計算結構面臨的挑戰源于存儲能力瓶頸以及存儲器與處理器之間的特定的數據轉移速度所帶來的高成本,即為馮·諾伊曼瓶頸。憶阻器模式則直接提供了一種超高密度存儲解決方案,并且可直接與處理芯片集成,減少內存瓶頸,顯著提高系統的能效和計算速度。

與靜態隨機存取存儲器(SRAM)和動態隨機存取存儲器(DRAM)相比,憶阻器(以RRAM的形式)比硬盤驅動器和閃存快得多,同時存儲密度更高,成本更低,且具有良好的非揮發存儲性能。此外,晶體管模式的存儲器不同,憶阻器式存儲可以與處理器進行高密度低熱功耗集成,消除了傳統模式那種緩慢且耗能的片外通信。這些特性使得憶阻器模式能夠簡化存儲層次結構,并顯著提升計算系統性能,特別是在大數據時代。

目前的研究工作主要促進憶阻器作為存儲器和存儲系統的實際應用,進一步增強設備性能并解決與大規模應用相關的挑戰。包括優化設備速度,開/關比,循環耐久性和數據保留時間等。更深度的優化工作包括降低工作電壓和電流以及解決器件可變性挑戰。在電路和系統級別上,憶阻器存儲器(RRAM)的大規模實現還需要解決諸如潛行電流和導線電阻之類的挑戰。

值得注意的是,憶阻器可能在非存儲模式的計算系統中發揮更大的作用,例如生物神經網絡計算。這種計算模式是將存儲與計算集于一體,因此憶阻器非常適合用于這種模式的計算需求。生物神經網絡在認知學習和大數據處理方面的表現明顯優于傳統計算系統,甚至在復雜任務中的表現過人類,比如Google開發的基于神經網絡模式的AlphaGo在圍棋領域已經超過人類高手。最簡單形式的神經網絡是通過加權突觸連接形成的神經元(圖3)。每個突觸將信息從突觸前神經元傳遞到突觸后神經元,并經過突觸權重進行縮放。通過更新其突觸權重來訓練神經網絡以執行特定任務。目前神經網絡具有超過100個的隱藏層,因此需要訓練并且存儲大量突觸連接。到目前為止,神經網絡的實現主要基于傳統的計算硬件,其中突觸權重存儲在(片外)存儲器中并且需要不斷地加載到處理單元中以計算到下一神經元的期望輸出。基于這一模式的計算性能仍然受到馮諾依曼瓶頸的限制,并且需要消耗巨大的計算硬件資源,產生極高的功耗。相反,基于憶阻器的神經網絡下,單一器件可以同時存儲突觸權重并且傳輸數據信號,(如圖3所示),在這種情況下,發射信號(即進入后神經元的電流)由輸入信號(即來自前神經元的電壓脈沖)與突觸權重(由憶阻器電導表示)的乘積確定。存儲單元和計算模塊在同一設備中避免了數據移動,可顯著提高系統效率。

 

圖3:基于憶阻器模式的人工神經網絡的硬件實現方式

在每個交叉點形成憶阻器,可同時用于存儲數據和處理信息。在這種方法中,矢量矩陣乘法可由歐姆定律和基爾霍夫定律的簡單讀取操作獲得。此外,憶阻器的內部動力學可用于忠實地模擬生物突觸中的潛在過程。Vi,第i行施加的電壓; Ij,當前通過列j的電流 ; Gij,在第i行和第j列的交叉點處的憶阻器的電導率。

如圖3所示,網絡結構可以直接映射到硬件中的交叉開關形式,其中輸入連接到憶阻器交叉開關的行,輸出端連接到列。此外,所有輸入可在單個器件所有節點可同時進行計算操作,其中特定列的輸出電流由通過連接輸入到特定列的所有憶阻器的總和電流確定。換句話說,N個輸入和M個輸出的N × M憶阻器交叉開關的單個讀操作執行N ×(N × M)矢量矩陣乘法,具有高度的計算并行性。而在傳統系統中,執行同樣的任務需要N×M個乘機累加運算才能實現。憶阻器的神經網絡硬件的高效計算特性主要是基于存儲和計算的共存位置以及高水平的并行計算特性。

神經形態硬件對于憶阻器研究來說是一個特別有吸引力的領域,因為系統級神經網絡可以容忍當今許多器件非理想性特性,如器件的本征變化。實際上,設備運行時間隨機性正可以用來模擬真實生物突觸特性,并且可在訓練期間進行優化。此外,實際的網絡操作不需要多年的數據保留,并且也可以放寬對設備耐久性的要求,因為權重更新通常比較少。

從數學的角度上說,神經形態計算可以分解為一系列矢量矩陣乘法運算,通過憶阻器交叉結構結構實現。在這些系統中,通過突觸連接的相對加強和弱化發生實現“學習”功能(圖 2)。在過去的幾年中已經證明了基于憶阻器的神經網絡硬件模式。例如,已經演示了執行模式分類的憶阻器硬件,最初使用2×10陣列并且稍后擴展到12×12陣列。2016年引入了一個使用憶阻器陣列進行神經形態應用的通用點積引擎,通過在線學習進行了主成分分析的演示。

在SNN中,常見學習規則是尖峰定時依賴模式 - 當突觸前神經元尖峰在突觸后神經元尖峰之前時,兩個神經元之間的突觸增強,如果相反則減弱。實際上,甚至有人認為憶阻效應可以解釋與尖峰定時相關的可塑性行為。到目前為止,許多研究人員已經使用實驗裝置參數通過全系統仿真研究了基于憶阻器-SNN。

總體而言,神經網絡模型的開發和探索是目前非常活躍。使用不同的神經元,突觸和網絡模型來探索各種新型計算模式。例如,在生物系統中,SNN中的尖峰被認為是實現高能量和計算效率的關鍵。目前先進的物體分類精度是通過模擬大腦的深度學習技術實現的。如上所述,憶阻器作為硬件系統的優勢是可用于神經形態計算和機器學習模型。除此之外,我們注意到上述相同的矢量矩陣運算可用于解決諸如矢量算術函數和線性代數之類的經典問題。因此,憶阻器可以實現有前途的內存計算解決方案,消除內存瓶頸和數據擁塞,并為不同類型的數據密集型任務提供低功耗,高效率的硬件系統。

面臨的挑戰與解決方案

雖然憶阻器在存儲器,計算和神經網絡應用顯示出巨大的應用潛力,但仍需要解決材料和器件應用中出現的問題。當然這些問題可以根據具體應用而變化。例如,在高性能存儲器應用(例如DRAM替換)中,降低編程電流和電壓,提高耐久性并改善選擇器性能以降低潛行電流至關重要,并且通過最少的器件實現所有這一切。這顯然給研究界帶來了巨大挑戰。幸運的是,對于神經形態和類似的計算應用,這些規范中的一些可以放寬,而模擬狀態的穩定性等新需求就變得非常重要了。

如何降低器件尺寸和提升集成規模?

雖然,近年的研究中憶阻器已經有了極大的改進,但是注意到憶阻器研究仍處于起步階段。關于憶阻系統的研究仍在學術研究小組中進行,大多數演示都側重于概念證明,而并非建立實際系統。為了將基于憶阻器的計算硬件引入實際應用,需要在后期的研發中著重提高三個方面的特性:擴大器件集成規模、多功能集成、以及與CMOS的系統集成。

 

圖4:憶阻器技術的快速發展

一種方法是增加功能憶阻器網絡規模。系統規模擴展很大程度上取決于可以集成到系統中的器件的數量。實際的存儲器或計算系統可能需要數十億個功能性憶阻設備。實現這種集成度需要提高憶阻器器件制造的產量以及大學研究人員與行業合作伙伴的密切合作。此外,開發和優化系統層次結構以提高硬件的可擴展性。令人鼓舞的是,研究已經朝這個方向發展(圖4)。

另一個方面是通過在同一硬件系統中執行多個任務來改進系統功能。例如,可以利用相同的物理結構來執行不同的功能,即神經網絡,算術運算和數據存儲等功能。這種方法可以產生可擴展的計算系統,其可以被動態地重新配置以適應不同的工作負載。在這種情況下,可以在運行時中純粹通過軟件動態地重新配置(重新定義)相同物理憶阻結構的功能,而無需任何物理硬件修改。為了將這樣一個系統變為現實,仍然需要解決一些挑戰。例如,與存儲和神經網絡相比,使用憶阻器執行算術運算需要更嚴格的設備分布。此外,可能需要長的設備耐久性循環以允許有效地執行邏輯任務。最近的設備研究工作已經顯示出有希望的結果,并且我們相信基于憶阻器的可重新配置計算系統可以是擴展系統功能的有吸引力的替代方案。

第三個因子就跨系統整合。跨系統擴展的成功與否主要取決于可憶阻器– CMOS可靠集成。通常,基于憶阻器系統的操作仍然需要一些CMOS電路來提供必要的接口和控制操作。因此,高效的憶阻器-CMOS集成是實現系統增益的關鍵因素。基于芯片級集成或硅通孔的典型方法將無法在憶阻器層和CMOS電路之間提供所需的帶寬。憶阻器與CMOS電路的成功3D集成可以顯著提高系統密度,而不僅僅是簡單的器件縮放。

從根本上擴展到3D可以為物理和概念上的更多認知架構創造新的機會。例如,受到神經網絡的巨大規模的啟發,早期的認知工作探索了大腦如何在高維空間中將概念及其關系表示為稀疏向量。這些超向量可以具有高達10,000的維數,這個數字部分地由神經系統中的連通性證明。在如此大的空間中工作(也受到隨機性和稀疏性的影響)導致認知操作(綁定概念,例如人名和性別),這可以通過相對簡單的操作來實現,例如乘法,加法和置換,形成這個空間的代數稱為超維計算。高維計算的挑戰在于,考慮到維度和預期的向量數量(例如,英語中的100,000個單詞),這些操作仍具有高度內存密集性。最近的工作已經探索了使用3D垂直結構的具有憶阻陣列的超維計算的實現兩者生成隨機矢量和原位執行乘法,加法和置換操作。在硬件中實現這種大規模系統的能力顯然取決于在三個維度上擴展的能力。

化學和生物計算

在生物啟發計算中,人們的目標是模仿已知的大腦,并希望基于此構建更高效的計算系統。但是,特定任務需要多少生物細節仍然是一個懸而未決的問題。例如,不需要大量的生物細節結構,僅通過網絡拓撲結構的深度神經網絡能夠在充分訓練之后以高精度執行諸如圖像分類的任務。然而,最近的發展表明,即使對于深度神經網絡,更有效的訓練算法顯示出與生物學中觀察到的基于尖峰的學習規則驚人的相似性。關于生物細節結構作用的爭論源于兩個因素:實施生物類特性的成本增加,以及缺乏對這些特性如何導致實際功能的理解(來自神經科學)。在這方面,如果一個人可以忠實地模仿硬件系統中的生物行為而幾乎沒有或沒有增加成本 - 通過使用原生具有生物地理特性的設備,這個問題可能會變得更容易回答。基于此類設備的硬件系統將在人工神經網絡中提供新功能,甚至可能有助于加速神經科學中假設的制定和測試。

發現表明,在憶阻器設備中有可能實現生物地理特性而無需額外補償。代表性例子是鈣效應。突觸后神經元中的鈣濃度在突觸前神經元的尖峰事件之后增加,然后在幾十毫秒的時間尺度內衰減。如果突觸后神經元也在該時間范圍內發射,則鈣濃度可以增強到高于觸發突觸增強的閾值。反過來增強的強度鈣濃度,取決于神經元前后峰值的相對時間,這種機制被認為是觀察到的尖峰時間依賴性可塑性和速率背后可能的潛在過程在不增加系統成本的情況下,在實現生物啟發網絡時,設備級別的這種生物實際實現水平具有吸引力。

另一個有趣的例子是研究化學在生物系統中的作用,其中突觸權重是通過可以與神經遞質結合的受體的活性來測量的,其中結合過程和受體活性又由化學反應驅動,例如,酶- 啟用生物催化反應。從器件的角度來看,類似的化學反應可以幫助降低操作器件所需的能量并提高器件的可靠性。例如,在憶阻器中的電阻切換期間,通過克服兩個狀態之間的能壘,將器件從一個穩定狀態轉換為另一個穩定狀態。能壘越高,狀態越穩定。然而,更高的能量勢壘意味著更大的偏置電壓,因此,需要更大的功率來對器件進行編程。通過模擬生物學和使用化學來輔助切換過程,在切換期間可以顯著降低有效能壘,同時在釋放“門控”化學品之后可以保持高能量勢壘以確保裝置穩定性。通過使用具有低能壘的離子(例如,Li離子)以類似電池的方式驅動導電通道中的充電 - 放電氧化還原反應,可以獲得這種化學“門控”效應。在這種情況下,可以在非常低的電壓(例如,5mV)下進行切換,從而產生優異的功率效率。

除了突觸行為之外,憶阻系統還可替代仿生計算系統中接收,處理和傳輸信息的神經元。神經元主要表征為接受其他神經元的輸入電荷并存起,在超過閾值之后產生相應動作電位。神經元動力學的模型可以在生物保真度水平上變化很大。然而,復制神經元行為的關鍵因素是主動增益,即小輸入信號可以 - 在適當的情況下 - 產生大量放大和動態的輸出。因此,神經元的固態實現必須滿足一些基本的動態特性。

憶阻器中可實現“神經元”特性的動態物理的一個重要參數是器件中的局部溫度。溫度強烈地影響電子(傳輸)和離子(遷移率)性質,并且反過來也可能受它們的強烈影響。舉一個簡單的例子,當增加電壓掃描到憶阻器時,上升的焦耳加熱和局部溫度激活電子傳輸,這進一步增加了強正反饋模式下的焦耳加熱。對于某些材料系統,該過程導致觀察到的負微分電阻(NDR),從而在電導中產生強烈但不穩定的變化。事實上,NDR的許多形式最終可以描述為基于耦合到所述電子傳輸內部溫度一個正反饋驅動的效果。因此,由于固有的正反饋,僅需要少量的輸入信號來產生大的效果,因此提供了早先提到的所需的神經元放大。

結論

基于憶阻器的架構在馮諾依曼瓶頸和摩爾定律時代之后展示了開發未來計算系統的巨大潛力。在短期內,憶阻器提供的高密度片上非易失性存儲器可以顯著提高傳統的基于馮諾依曼的計算系統的性能,并且可以找到從高性能機器學習系統到低性能的應用程序,用于物聯網的嵌入式芯片。器件技術和架構發展的進一步發展可能導致基于憶阻器的神經形態計算系統的大規模實施。憶阻交叉開關提供了本機解決方案,以實現大規模并行和功率有效的矢量矩陣運算,這些運算構成了神經形態運算的基礎。此外,精心設計的憶阻器設備可以模仿生物學對應的動力學。最終,我們期待一個基于憶阻器的通用內存計算平臺(圖5)。這個高效且可重新配置的計算平臺,稱之為內存處理單元,可以執行不同的任務-數據存儲,算術,邏輯和神經形態計算。可以說,基于憶阻器的存儲器處理單元等體系結構是計算范式的自然演化,遵循從中央處理單元到圖形處理單元的相同趨勢,轉向更細粒度和高度平行的結構(圖 5))。

 

圖5:計算系統的可能演變

從具有獨立處理器和內存(中央處理單元,CPU)的傳統架構開始,具有數千個較小內核和更快內存訪問的圖形處理單元(GPU)已成為當今數據密集型計算任務的主力。所提出的存儲器處理單元(MPU)架構將延續這一趨勢,并最終將最小顆粒的存儲器和邏輯完全共存 - 單個設備級別,以便有效處理各種計算任務。

我們注意到生物學一直服務并將繼續作為開發實現低功耗和實時學習系統的方法的巨大靈感。然而,正如自然界中的鳥類可能激發了現代航空技術的靈感,我們最終在新的方向和能力方面邁進了更快的旅行,更大的承載能力和完全不同的加油要求。類似地,在計算中,現代應用程序需要超越自然界面臨的那些,例如搜索大型數據庫,有效地調度資源或解決高度耦合的微分方程組。有趣的是,憶阻器中觀察到的一些特征可能同樣在計算中提供“超越生物學”的機會,利用新穎的設備動態行為和受生物學啟發的網絡拓撲。在這方面,諸如存儲器處理單元的概念代表了真正令人興奮的機會。要實現這些以及未來的其他新計算系統,將需要超越任何單一學科的持續和創造研究,并且必須包括來自神經科學,物理學,化學,計算機科學以及電氣和計算機工程等的見解。

參考文獻:The future of electronics based on memristive systems,Mohammed A. Zidan, John Paul Strachan & Wei D. Lu. Nature Electronics, 2018, 1, 22–29

 

責任編輯:武曉燕 來源: 柔性電子服務平臺
相關推薦

2013-07-27 21:28:44

2020-09-27 17:27:58

邊緣計算云計算技術

2020-09-16 10:28:54

邊緣計算云計算數據中心

2024-02-26 14:46:53

移動計算人工智能5G

2013-06-27 11:21:17

2015-09-28 16:24:34

YARNHadoop計算

2023-04-28 10:02:50

2014-05-09 13:18:54

iOS移動互聯網

2013-07-22 09:47:17

大數據IBM技術大會

2018-09-27 18:47:45

AIOpsDevOps

2020-06-02 08:05:28

智能電表蜂窩物聯網NB-IoT

2018-09-11 08:00:00

DevOpsAIOps機器學習

2025-01-03 09:24:10

模型架構論文

2015-12-03 17:38:18

云桌面

2013-09-09 16:28:36

2016-01-26 11:58:12

2011-01-27 09:52:43

StuxnetZeus軟件攻擊

2015-01-22 16:16:01

思科IT模式

2010-09-01 17:05:04

無線網絡

2018-09-25 07:00:50

點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 欧美激情亚洲激情 | 人人人艹| 在线观看av网站永久 | 中文字幕国产第一页 | 欧美一级二级三级视频 | 欧美在线成人影院 | 久久99精品久久久久久国产越南 | 久久一日本道色综合久久 | 亚洲一区二区在线 | 亚洲伊人久久综合 | 全免费a级毛片免费看视频免费下 | 日韩色图视频 | 超碰伊人| 免费在线看黄 | 久久6| 国产欧美日韩综合精品一 | 91成人在线视频 | 国产成人免费视频 | 国产精品永久 | 亚洲视频 欧美视频 | 欧美精品在线播放 | 中文字幕高清在线 | 欧美a区| 国产精品国产a | 综合久久综合久久 | 欧美一级特黄aaa大片在线观看 | 精品久久香蕉国产线看观看亚洲 | 91手机精品视频 | av中文字幕网站 | 午夜一级做a爰片久久毛片 精品综合 | 久久久av中文字幕 | 久久久亚洲成人 | 国产一区二区三区四区五区加勒比 | 国产精品一区在线 | 欧美一区二区三区一在线观看 | 国产日屁 | 国产精品五区 | 三级视频久久 | 日本成人三级电影 | 天天射网站 | 日韩国产精品一区二区三区 |