1毫瓦芯片就能玩《毀滅戰士》,超低功耗芯片來了
一個 1 毫瓦的機器學習芯片可以做很多事情,不過像玩《毀滅戰士》(Doom)這樣充滿想象力的做法卻很少見。
最近幾日,在舊金山舉行的 2023 IEEE ISSCC(International Solid State Circuits Conference)大會上,總部位于加州歐文的 AI 芯片初創公司 Syntiant 詳細介紹了他們的產品 NDP200—— 一款超低功耗芯片,主要用來運行監控視頻的神經網絡,并在發現重要事件時喚醒其他系統。
如下為 NDP200(Neural Decision Processor)玩《毀滅戰士》的演示視頻片段。
如何做到的呢?
Syntiant 使用了基于 Doom 的 AI 研究平臺 VizDoom,這在 AI 研究中很受歡迎。團隊使用強化學習來訓練多層神經網絡,其中第一層負責理解網絡看到的內容,而最后一層負責采取響應行動。總的來說,這個網絡由大約 60 萬個參數組成。雖然沒有 ChatGPT 所需的億級規模參數,但仍然要比監聽「OK, Google」這類關鍵短語所需的 10000 個參數強大得多。NDP200 有 640 kilobytes 的板載內存用于神經網絡參數。
圖源:https://www.syntiant.com/ndp200
如上展示的片段中的游戲關卡叫做「保衛圓圈」,它讓玩家在一個圓形房間內移動,射擊面前的怪物。IEEE Fellow、前 Syntiant 高級工程師副總裁 David Garrett 表示,在訓練中,神經網絡必須首先識別怪物,然后學習射擊它們。在第一次殺死獵物后,系統會卸載 clip(可以理解為一種文件類型),但后來發現這不是一個好辦法。因此,系統很快就學會了節省彈藥。
盡管《毀滅戰士》的演示非常精彩,但 NDP200 還有更多實際用途。Garrett 指出,它有能力進行人體輪廓檢測,這是一項通常由更強大的處理器完成的關鍵任務。Syntiant 芯片可以運行人體檢測,作為家庭或汽車安全系統的節能步驟。
為了展示其能源效率,Syntiant 將 NDP200 與基于 Arm Cortex A53 的處理器進行了比較,該處理器運行了 20 萬個參數版本的 MobileNetV1,這是 MLPerf 用來判斷系統對視覺喚醒詞響應情況的測試。NDP200 每次掃描圖像只使用 166 微焦耳,大約是 Arm 處理器的 1/100。因此,Syntiant 芯片每秒可以掃描 6 幀視頻,而耗電量為 1 毫瓦。
這款芯片并沒有那么神秘,它有一條定制的路徑,數據在芯片的神經決策處理器中流動。據 Garett 介紹,它盡可能充分利用了芯片的乘法累加單元,即機器學習計算的核心,將高達每秒 9 gigabytes 的數據帶寬傳輸到神經核心。
Garrett 不愿透露 Syntiant 下一步的技術發展,但他表示會有更多有趣的應用。他說:50 萬個參數足夠做出真正的好東西了。