全球首臺!仿人腦超算「深南」即將面世,突破摩爾定律,能耗降低幾個數量級
人腦作為地球上最為高效的計算設備,可以僅僅用20w的功率,1.3公斤的質量,就能完成每秒100萬億次的運算量。
而現在人類最大的超級計算機Hewlett Packard Enterprise Frontier,也能以完成和人腦計算量相似的計算,但是占地680平米,運行功率達到2270萬瓦。
這兩個數字之間的巨大能耗差異,凸顯出了人腦作為計算設備構架上的先進性。而最近,澳大利亞的科學家宣布,他們開發了一臺完全模仿人腦的超級計算機——DeepSouth,將在明年4月份上線。
這將是世界上第一臺能夠在人腦規模模擬神經元(數十億)和突觸(數萬億)網絡的超級計算機,可以模擬每秒228萬億次突觸操作。
西悉尼大學的ICNS團隊與來自悉尼大學、墨爾本大學和德國亞琛大學的神經形態領域的合作伙伴合作開發了這臺超算。
這臺超級計算機被命名為DeepSouth,是為了向IBM的TrueNorth系統和Deep Blue致敬。
西悉尼大學ICNS主任André van Schaik教授稱:
由于我們無法大規模模擬類腦網絡,我們對大腦如何使用神經元進行計算的理解的進展受到阻礙。使用圖形處理單元 (GPU) 和多核中央處理單元 (CPU) 在標準計算機上模擬脈沖神經網絡(Spiking Neural Networks)速度太慢且耗電。我們的系統將改變這一點。
這個平臺將增進我們對大腦的理解,并在傳感、生物醫學、機器人、太空和大規模人工智能應用等不同領域開發大腦規模的計算應用。
根據ICNS的說法,這個超算主要的收益在這幾個地方:
-極低功率完成超快速、大規模并行處理:大腦能夠以20瓦的功率處理相當于每秒10^18次的運算。
DeepSouth使用模擬大腦工作方式的神經形態工程,可以快速處理大量數據,使用的電量少得多,同時比其他超級計算機小得多。
-可擴展性:系統允許添加更多硬件來創建更大的系統,或者縮小規模以實現更小的便攜式或更經濟高效的應用程序。
-可重新配置:利用現場可編程門陣列 (Leveraging Field Programmable Gate Arrays,FPGA) 促進硬件重新編程,從而能夠添加新的神經元模型、連接方案和學習規則,從而克服使用定制設計硬件的其他神經形態計算系統中出現的限制。
DeepSouth將通過前端進行遠程訪問,該前端允許使用流行的編程語言Python描述神經模型和設計神經網絡。前端的開發使研究人員無需詳細了解硬件配置即可使用該平臺。
-商業可用性:利用商用硬件可確保硬件的持續改進,獨立于設計超級計算機的團隊,克服使用定制設計硬件的其他神經形態計算系統中出現的限制。
定制芯片需要大量時間來設計和制造,每個芯片的成本高達數千萬美元。使用商業現成的可配置硬件意味著該原型可以很容易在世界各地的數據中心復制。
-人工智能:通過模仿大腦,將能夠創建比當前模型更有效的方式來執行人工智能流程。
晶體管的極限
而要理解這個「仿真人腦」和現在通用計算機的差別,還是要從現代計算機的構架入手。
1945年6月30日,數學家和物理學家約翰·馮·諾依曼描述了一種新機器的設計——電子離散變量自動計算機 (Edvac)。這有效地定義了我們所知的現代電子計算機。
智能手機、筆記本電腦以及世界上最強大的超級計算機都一直沿用馮·諾依曼在大約80年前引入的相同基本結構。它們都具有不同的處理和內存單元,其中數據和指令存儲在內存中并由處理器計算。
幾十年來,微芯片上的晶體管數量大約每兩年增加一倍,這一現象被稱為摩爾定律。這使我們能夠擁有更小、更便宜的計算機。
然而,晶體管尺寸現在已接近原子尺度。在如此微小的尺寸下,計算過程中產生過多的熱量是一個很嚴重的問題。
這種被稱為量子隧道效應的現象,會干擾晶體管的功能。這使得摩爾定律代表的晶體管小型化之路越來越難以走下去。
為了克服這個問題,科學家們正在探索新的計算方法,從都隱藏在頭腦中的強大計算機——人腦開始。
大腦并不按照約翰·馮·諾依曼的計算機模型工作。
它沒有單獨的計算和存儲區域。
相反,它們的工作原理是連接數十億個以電脈沖形式傳遞信息的神經細胞。信息可以通過稱為突觸的連接點從一個神經元傳遞到下一個神經元。
大腦中神經元和突觸的組織是靈活的、可擴展的和高效的。
因此,與計算機不同的是,在大腦中,記憶和計算是由相同的神經元和突觸控制的。自20世紀80年代末以來,科學家們一直在研究這個模型,意圖將其導入計算中。
模仿生命
神經形態計算機基于簡單的基本處理器(其作用類似于大腦的神經元和突觸)的復雜網絡。這樣設計最主要優點是機器本質上是并行的。
這意味著,與神經元和突觸一樣,計算機中的幾乎所有處理器都可以同時運行,串聯通信。
此外,由于單個神經元和突觸執行的計算與傳統計算機相比非常簡單,因此能耗要小幾個數量級。
盡管神經元有時被認為是處理單元,突觸被認為是記憶單元,但它們有助于處理和存儲。換句話說,數據已經位于計算需要的地方,沒有分別用處理器和存儲器分開。
這總體上加快了大腦的計算速度,因為內存和處理器之間沒有分離,這在經典(馮·諾依曼)機器中會導致速度減慢。但它也避免了執行從主存儲器組件訪問數據的特定任務的需要,就像傳統計算系統中發生的那樣,并且消耗大量的能量。
這些原則是DeepSouth的主要靈感。
但這不是目前唯一活躍的神經形態系統。值得一提的是由歐盟倡議資助的人腦項目(HBP)。HBP于2013年至2023年運行,并催生了BrainScaleS,這是一臺位于德國海德堡的機器,用于模擬神經元和突觸的工作方式。
由于神經形態計算機被設計用來模仿真實的大腦,因此它們可能是一個轉折點的開始。它們提供可持續且經濟實惠的計算能力,并允許研究人員評估神經系統模型,是一系列應用的理想平臺。
它們有潛力促進人類對大腦的理解,并為人工智能提供新的方法。