創(chuàng)新的微芯片設(shè)計(jì)將計(jì)算推到邊緣 使人工智能可以實(shí)時使用
為了應(yīng)對人工智能對計(jì)算機(jī)網(wǎng)絡(luò)的爆炸性需求,普林斯頓大學(xué)的研究人員近年來從根本上提高了專門的人工智能系統(tǒng)的速度并減少了其能源使用。現(xiàn)在,研究人員通過創(chuàng)建共同設(shè)計(jì)的硬件和軟件,使設(shè)計(jì)者能夠?qū)⑦@些新型系統(tǒng)融合到他們的應(yīng)用中,使他們的創(chuàng)新更接近于廣泛使用。
通過減少電力需求和從遠(yuǎn)程服務(wù)器交換數(shù)據(jù)的需要,用普林斯頓技術(shù)制造的系統(tǒng)將能夠把人工智能應(yīng)用,如無人機(jī)的駕駛軟件或高級語言翻譯帶到計(jì)算基礎(chǔ)設(shè)施的最邊緣。
新的芯片基于模擬計(jì)算,它使用電路來模擬正在解決的方程,而不是像數(shù)字計(jì)算機(jī)那樣產(chǎn)生1和0。
兩年前,普林斯頓大學(xué)的研究團(tuán)隊(duì)制作了一種新的芯片,旨在提高神經(jīng)網(wǎng)絡(luò)的性能,而神經(jīng)網(wǎng)絡(luò)是當(dāng)今人工智能的精髓。該芯片的性能比其他先進(jìn)的微芯片好幾十到幾百倍,在幾個方面標(biāo)志著一種革命性的方法。事實(shí)上,該芯片與目前用于神經(jīng)網(wǎng)絡(luò)的任何東西都有很大的不同,以至于它對開發(fā)者構(gòu)成了挑戰(zhàn)。
在接下來的兩年里,研究人員努力完善該芯片,并創(chuàng)建一個軟件系統(tǒng),使人工智能系統(tǒng)能夠利用新芯片的速度和效率。在2021年2月舉行的國際固態(tài)電路虛擬會議上,主要作者、Verma研究實(shí)驗(yàn)室的研究生Hongyang Jia描述了新軟件將如何讓新芯片與不同類型的網(wǎng)絡(luò)一起工作,并讓系統(tǒng)在硬件和軟件的執(zhí)行方面都具有可擴(kuò)展性。
Verma的團(tuán)隊(duì)開發(fā)了新的芯片,以應(yīng)對日益增長的人工智能需求和人工智能對計(jì)算機(jī)網(wǎng)絡(luò)的負(fù)擔(dān)。人工智能使機(jī)器能夠模仿學(xué)習(xí)和判斷等認(rèn)知功能,在圖像識別、翻譯和自動駕駛汽車等新技術(shù)中發(fā)揮了關(guān)鍵作用。理想情況下,無人機(jī)導(dǎo)航等技術(shù)的計(jì)算將基于無人機(jī)本身,而不是在一個遠(yuǎn)程網(wǎng)絡(luò)計(jì)算機(jī)中。但數(shù)字微芯片的功率需求和對內(nèi)存存儲的需求會使設(shè)計(jì)這樣的系統(tǒng)變得困難。通常情況下,該解決方案將大部分計(jì)算和內(nèi)存放在一個遠(yuǎn)程服務(wù)器上,該服務(wù)器與無人機(jī)進(jìn)行無線通信。但是這增加了對通信系統(tǒng)的要求,并引入了安全問題和向無人機(jī)發(fā)送指令的延遲。
為了解決這個問題,普林斯頓大學(xué)的研究人員從幾個方面重新考慮了計(jì)算。首先,他們設(shè)計(jì)了一個芯片,在同一個地方進(jìn)行計(jì)算和存儲數(shù)據(jù)。這種技術(shù)被稱為內(nèi)存計(jì)算,削減了用于與專用存儲器交換信息的能量和時間。這項(xiàng)技術(shù)提高了效率,但也帶來了新的問題:由于它將兩種功能塞進(jìn)了一個小區(qū)域,內(nèi)存計(jì)算依賴于模擬操作,而模擬操作對電壓波動和溫度尖峰等來源的破壞很敏感。為了解決這個問題,普林斯頓大學(xué)的團(tuán)隊(duì)使用電容器而不是晶體管設(shè)計(jì)他們的芯片。電容器是儲存電荷的設(shè)備,可以以更高的精度制造,并且不受電壓變化的影響。電容器也可以非常小,并放置在存儲單元的頂部,增加處理密度并削減能源需求。
為了解決這個問題,普林斯頓大學(xué)的研究人員從幾個方面重新考慮了計(jì)算。首先,他們設(shè)計(jì)了一個芯片,在同一地方進(jìn)行計(jì)算和存儲數(shù)據(jù)。這種技術(shù)被稱為內(nèi)存計(jì)算,它削減了與專用存儲器交換信息所需的能量和時間。這項(xiàng)技術(shù)提高了效率,但也帶來了新的問題:由于它將兩種功能塞進(jìn)了一個小區(qū)域,內(nèi)存計(jì)算依賴于模擬操作,而模擬操作對電壓波動和溫度尖峰等來源的破壞很敏感。為了解決這個問題,普林斯頓大學(xué)的團(tuán)隊(duì)使用電容器而不是晶體管設(shè)計(jì)他們的芯片。電容器是儲存電荷的設(shè)備,可以以更高的精度制造,并且不受電壓變化的影響。電容器也可以非常小,并放置在存儲單元的頂部,增加處理密度并削減能源需求。
但是,即使在使模擬操作變得強(qiáng)大之后,仍然存在許多挑戰(zhàn)。模擬核心需要有效地集成在一個主要是數(shù)字的架構(gòu)中,以便它能與其他功能和軟件相結(jié)合,使實(shí)用系統(tǒng)實(shí)際運(yùn)作。 一個數(shù)字系統(tǒng)使用開關(guān)來表示1和0,計(jì)算機(jī)工程師用它來編寫構(gòu)成計(jì)算機(jī)編程的算法。模擬計(jì)算機(jī)則采取了完全不同的方法。在IEEE Spectrum的一篇文章中,哥倫比亞大學(xué)教授Yannis Tsividis將模擬計(jì)算機(jī)描述為一個物理系統(tǒng),被設(shè)計(jì)為受與程序員想要解決的問題相同的方程所支配。例如,一個算盤就是一個非常簡單的模擬計(jì)算機(jī),一個水桶和一根軟管可以作為某些微積分問題的模擬計(jì)算機(jī):要解決一個積分函數(shù),可以進(jìn)行數(shù)學(xué)運(yùn)算,或者可以直接測量水桶里的水。
模擬計(jì)算是貫穿第二次世界大戰(zhàn)的主導(dǎo)技術(shù)。它被用來執(zhí)行從預(yù)測潮汐到指揮艦炮的功能。但模擬系統(tǒng)建造起來很麻煩,而且通常需要訓(xùn)練有素的操作員。在晶體管緊急出現(xiàn)后,數(shù)字系統(tǒng)被證明更加有效和適應(yīng)性強(qiáng)。但新技術(shù)和新的電路設(shè)計(jì)使工程師們能夠消除模擬系統(tǒng)的許多缺點(diǎn)。對于像神經(jīng)網(wǎng)絡(luò)這樣的應(yīng)用,模擬系統(tǒng)具有真正的優(yōu)勢。現(xiàn)在,問題是如何將兩個世界的優(yōu)點(diǎn)結(jié)合起來。
這兩類系統(tǒng)是相互補(bǔ)充的。數(shù)字系統(tǒng)發(fā)揮著核心作用,而使用模擬芯片的神經(jīng)網(wǎng)絡(luò)可以極其快速有效地運(yùn)行專門操作。這就是為什么開發(fā)一個能將這兩種技術(shù)無縫、高效地整合起來的軟件系統(tǒng)是如此關(guān)鍵的一步。