我們都已經(jīng)看到了有關(guān)即將有多少設(shè)備連接到物聯(lián)網(wǎng)(IoT)的預(yù)測。例如，IDC預(yù)測到2025年這一數(shù)字將超過410億。關(guān)于將釋放的機(jī)會使我們的房屋，工作，娛樂和旅行更加有效和可持續(xù)的報道很多。

[[348765]]

但是，支撐這些進(jìn)步的數(shù)據(jù)爆炸正使那些創(chuàng)建產(chǎn)品，服務(wù)和支持基礎(chǔ)架構(gòu)的人頭痛。許多早期的物聯(lián)網(wǎng)設(shè)備都依靠云來處理其收集的數(shù)據(jù)。該模型的部分驅(qū)動力是云中有效的無限計算能力，再加上許多物聯(lián)網(wǎng)設(shè)備的受限板載處理能力。

數(shù)據(jù)上傳到云端的局限性

但是，向云發(fā)送數(shù)據(jù)和從云發(fā)送數(shù)據(jù)都有其缺點。

首先，傳輸數(shù)據(jù)會消耗能量和帶寬。更多數(shù)據(jù)意味著您需要更多昂貴且有限的網(wǎng)絡(luò)資源。

其次，將數(shù)據(jù)發(fā)送到云會引入延遲，這會限制某些應(yīng)用程序的有效性。

第三，外部信息帶來了隱私和安全風(fēng)險。例如，由智能家居設(shè)備收集的數(shù)據(jù)將揭示有關(guān)您在家中和外出時的大量信息。如果此信息發(fā)送到云，您可以確定它已安全完成嗎?它以什么形式存儲在哪里?誰有權(quán)使用它?

引入邊緣智能的優(yōu)勢

隨著越來越多的設(shè)備收集更多(和更敏感)的數(shù)據(jù)進(jìn)行處理，解決這些挑戰(zhàn)的需求變得越來越緊迫。這是“邊緣智能”興起的主要推動力之一。

在此模型中，不是將所有數(shù)據(jù)發(fā)送到云，而是在本地網(wǎng)絡(luò)的“邊緣”，在連接設(shè)備附近完成密鑰處理和決策。這減少了上述延遲，能耗和帶寬使用，同時使用戶能夠?qū)⑺接袛?shù)據(jù)保留在其自己的基礎(chǔ)架構(gòu)范圍內(nèi)。

邊緣智能的核心是機(jī)器學(xué)習(xí)。目前，在這種情況下，我們主要討論機(jī)器推理。這是邊緣設(shè)備使用預(yù)先訓(xùn)練好的的機(jī)器學(xué)習(xí)模型基于本地傳感器收集的新數(shù)據(jù)做出決策的地方。

圖1：ABI的研究人員預(yù)測，到2024年，支持板載AI推理的設(shè)備出貨量將達(dá)到20億。(來源ABI;圖片由NXP Semiconductors提供)

在邊緣推動向AI的轉(zhuǎn)變

通過改進(jìn)推理處理，尤其是用于加速推理的技術(shù)，可以在這種資源受限的環(huán)境中顯著增加推理。

第一代機(jī)器學(xué)習(xí)加速器主要基于軟件，并且CPU運行指令集。第二代引入了專用硬件，例如GPU和DSP。今天，我們有了第三代產(chǎn)品，它使用了基于硬件的修剪和壓縮等功能。在硬件中完成的工作越多，由于減少了軟件和CPU周期的使用，該過程就變得更加節(jié)能。

圖2：通過機(jī)器學(xué)習(xí)加速器可以看到能源效率的提高。(來源：恩智浦半導(dǎo)體)

當(dāng)今的邊緣智能可以實現(xiàn)什么

作為人類，我們的大部分交流不只是通過言語傳遞的：我們的語氣，面部表情和手勢都有助于我們本能地交流和理解彼此。使用基于邊緣的推理，當(dāng)今的設(shè)計師可以使他們的產(chǎn)品適應(yīng)這些信號，從而設(shè)計出越來越自然的交互體驗。技術(shù)可以包括面部和其他對象和手勢識別，語音識別，音調(diào)分析和自然語言處理。

在其他地方，智能邊緣設(shè)備可以增強安全性。例如，可以訓(xùn)練智能家居邊緣套件來識別危險信號，例如警報響起，人員摔倒，玻璃破碎或水龍頭滴落或奔跑。一旦檢測到問題，系統(tǒng)便可以提醒所有者，使他們能夠做出相應(yīng)的反應(yīng)。

接下來是什么?

在未來幾年中，很可能會出現(xiàn)許多利用這種功能日益強大的邊緣智能優(yōu)勢的新型物聯(lián)網(wǎng)產(chǎn)品和服務(wù)。

我們討論了當(dāng)前如何使用第三代AI加速功能。未來可能包括神經(jīng)形態(tài)或內(nèi)存計算，脈沖神經(jīng)網(wǎng)絡(luò)或最終是量子AI。這些發(fā)展將有助于加速當(dāng)前正在出現(xiàn)的另一種趨勢，即能夠在邊緣實施機(jī)器學(xué)習(xí)算法的實際訓(xùn)練。

對于我們的設(shè)計師，工程師，企業(yè)和消費者而言，這將是一個激動人心的時刻，我們的技術(shù)將變得更加有用，更加安全并且更具可持續(xù)性。