一塊GPU模擬猴子大腦，普通臺式機變超算，英國大學研究登上Nature子刊
用計算機模擬動物大腦通常需要一臺強大、昂貴的超級計算機，但最近的一項嘗試表明，安裝了高性能 GPU 的臺式機也能完成這項工作，而且模擬速度比超級計算機還快。
這項研究來自英國薩塞克斯大學（University of Sussex），研究者利用一臺搭載了 NVIDIA Titan RTX GPU 的臺式 PC 模擬了猴子大腦視覺皮層的一個大型模型。這個模型包含 4.13 × 10^6 個神經(jīng)元和 24.2 × 10^9 個突觸。實驗所用的 GPU 內(nèi)存是 24GB，價值 2452 英鎊（約合 21780 元）。借助研究者提出的新方法，他們用單個 GPU 進行的模擬比超級計算機速度還快，而且價格要便宜得多。
長期以來，人們一直利用 GPU 來加速 AI 模型的計算，但在一個普通顯卡上運行如此之大的模型還是第一次。
通常來說，這種級別的大腦模擬需要超級計算機來提供強大的內(nèi)存，但薩塞克斯大學的研究者提出了一種更加高效的技術(shù)，可以大幅降低模擬過程中所需存儲的數(shù)據(jù)量。他們的方法被稱為「程序性連接（procedural connectivity）」，相關(guān)研究發(fā)表在 Nature 新子刊——《Nature Computational Science》上。這份子刊于 2021 年 1 月啟動，主要發(fā)表與計算技術(shù)和數(shù)學模型開發(fā)及使用相關(guān)的研究，以及它們在一系列科學學科（包括但不限于生物信息學、化學信息學、地理信息學、計算物理學和宇宙學、材料科學和城市科學）領(lǐng)域的應(yīng)用。
論文鏈接：https://www.nature.com/articles/s43588-020-00022-7?utm_medium
什么是「程序性連接」？
模擬大腦通常需要一個脈沖神經(jīng)網(wǎng)絡(luò)，這是一種特殊的 AI 系統(tǒng)，可以模擬大腦的行為，神經(jīng)元通過一系列脈沖信號進行通信。
為了準確地預(yù)測脈沖如何影響神經(jīng)元，描述「哪些神經(jīng)元通過突觸連接在一起、如何連接」的信息通常在運行模擬之前生成和存儲。然而，由于神經(jīng)元只是周期性地產(chǎn)生脈沖，將如此大量的數(shù)據(jù)持續(xù)保存在內(nèi)存中是非常低效的。
為了解決這一問題，研究者提出了「程序性連接」的概念?！赋绦蛐赃B接」可以讓研究者根據(jù)需要實時生成與神經(jīng)元連接相關(guān)的數(shù)據(jù)，而不是在內(nèi)存中存儲數(shù)據(jù)并從中檢索信息。這完全消除了在內(nèi)存中存儲連接數(shù)據(jù)的必要性。
「這些實驗通常需要你提前生成所有連接數(shù)據(jù)，并用這些數(shù)據(jù)來填滿內(nèi)存，而我們的方法就是要避免這一過程?！拐撐淖髡?James Knight 表示。
他還補充說，「使用我們的方法，每次神經(jīng)元發(fā)出脈沖時，連接的細節(jié)就會重新生成。」「我們利用 GPU 的能力，在每次脈沖發(fā)出時重新實時計算連接?！?/p>
也就是說，借助 GPU 的強大計算能力，當神經(jīng)元脈沖被激發(fā)時，脈沖神經(jīng)網(wǎng)絡(luò)可以「程序性」地生成連接數(shù)據(jù)。
這一方法建立美國學者 Eugene Izhikevich 在 2006 年提出的研究基礎(chǔ)上，但彼時的計算機速度太慢，還不足以讓方法推廣應(yīng)用?，F(xiàn)在，GPU 的算力是 15 年前的 2000 倍，對于「脈沖神經(jīng)網(wǎng)絡(luò)」來說，研究時機已經(jīng)成熟。
一臺電腦 + 一塊 GPU，或許就能復現(xiàn)大腦模擬論文
事實上，這項研究的結(jié)果不僅能夠與當前最快的超級計算機相媲美，甚至還更快。在靜息態(tài)下，新方法模擬生物體的一秒只需要 8.4 分鐘，比之前的超級計算機模擬節(jié)省了多達 35% 的時間（一個例子就是 2018 年在 IBM Blue Gene/Q 上運行的模擬）。
如同 Knight 介紹的那樣，這是因為 IBM 的設(shè)備是由 1000 個連接在一個房間里的計算節(jié)點組成的?！笩o論系統(tǒng)多么復雜，節(jié)點之間仍然存在一些延遲。模型隔得越遠，它就會越慢，而我們的模型速度可以快很多個量級?！?/p>
James Knight 和 Thomas Nowotny。
除了提高實驗速度之外，研究者還希望通過這種方法降低此類大型生物模擬研究的硬件門檻。在大腦模擬的研究領(lǐng)域，模型大小很可能以萬億字節(jié)計，但超級計算機只是少數(shù)研究團隊的特權(quán)。
還有一點意義是：Knight 及其團隊的研究可以讓神經(jīng)科學和人工智能研究者在他們的本地工作站上模擬大腦回路，同時也可以讓學術(shù)界以外的人把他們的游戲本變?yōu)橐慌_可以運行大型神經(jīng)網(wǎng)絡(luò)的計算機。
Knight 表示：「 Nature Computational Science 的審稿人在自己的計算機上試驗了這項研究?！挂虼?，如果你有一臺電腦和合適的 GPU，或許也可以查看論文中關(guān)于復現(xiàn)的說明部分，并上手一試。
程序性連接非常適合用于大腦模擬實驗的脈沖神經(jīng)網(wǎng)絡(luò)，但 Knight 認為，隨著類腦機器學習取得更多進展，更多的人工智能應(yīng)用也將出現(xiàn)。
研究團隊希望這種辦法能夠助力于科學研究，從而大大降低研究哺乳動物大腦工作方式和研究神經(jīng)系統(tǒng)疾病的成本。大腦模擬也是助力阿爾茨海默氏癥和帕金森氏癥的關(guān)鍵工具。
無論是繪制哺乳動物大腦的行為圖，還是開發(fā)更好的語音識別工具，神經(jīng)網(wǎng)絡(luò)正在受到學界和業(yè)界更多的關(guān)注。現(xiàn)在，只要有一塊 GPU，誰又能說臥室不可以是夢開始的地方呢？
