如何利用邊緣AI發現新機遇?
在當前的經濟環境下,研發資金必須比以往任何時候都更加充分。企業對未來技術和基礎設施的投資往往不以為然,而失敗的風險卻給項目利益相關者帶來了巨大壓力。
然而,這并不意味著創新應該停止甚至放緩。對于初創企業和大型企業而言,致力于新技術和變革性技術對于確保當前和未來的競爭力至關重要。人工智能(AI) 為越來越廣泛的行業提供多方面的解決方案。
在過去十年中,人工智能在釋放全新的收入機會方面發揮了重要作用。從理解和預測用戶行為到協助生成代碼和內容,人工智能和機器學習 (ML) 革命已經使消費者從他們的應用、網站和在線服務中獲得的價值成倍增加。
然而,這場革命在很大程度上僅限于云,其中幾乎無限的存儲和計算,以及主要公共云服務提供商提供的方便的虛擬硬件,使得為每個AI/ML應用建立最佳實踐模式變得相對容易可以想象。
AI:移動到邊緣
由于AI處理主要發生在云端,因此AI/ML革命對于邊緣設備來說仍然遙不可及。這些是在工廠車間、建筑工地、研究實驗室、自然保護區、我們佩戴的配飾和衣服上、我們運送的包裹內以及任何其他需要連接的環境中發現的更小、低功耗的處理器、存儲、計算和能源是有限的或不能被視為理所當然。在他們的環境中,計算周期和硬件架構很重要,預算不是以端點或套接字連接的數量來衡量的,而是以瓦特和納秒來衡量的。
希望打破人工智能/機器學習領域下一個技術障礙的首席技術官、工程、數據和機器學習領導者以及產品團隊必須將目光投向邊緣。邊緣AI和邊緣ML提出了獨特而復雜的挑戰,需要許多利益相關者的精心協調和參與,這些利益相關者具有從系統集成、設計、運營和物流到嵌入式、數據、IT
和 ML工程的廣泛專業知識。
邊緣AI意味著算法必須在某種特定用途的硬件中運行,從高端的網關或本地服務器到低端的能量收集傳感器和MCU。確保此類產品和應用的成功需要數據和ML團隊與產品和硬件團隊密切合作,以了解和考慮彼此的需求、約束和要求。
雖然構建定制邊緣AI解決方案的挑戰并非無法克服,但存在用于邊緣AI算法開發的平臺可以幫助彌合必要團隊之間的差距,確保在更短的時間內取得更高水平的成功,并驗證進一步投資的方向應該制作。以下是其他需要注意的事項。
在開發算法的同時測試硬件
由數據科學和 ML團隊開發算法,然后將其傳遞給固件工程師以將其安裝在設備上,這既不高效也不總是可能的。硬件在環測試和部署應該是任何邊緣 AI 開發管道的基本組成部分。如果沒有同時在硬件上運行和測試算法的方法,則很難預見在開發邊緣AI算法時可能出現的內存、性能和延遲限制。
一些基于云的模型架構也不意味著在任何類型的受限或邊緣設備上運行,提前預測可以為固件和ML團隊節省數月的痛苦。
物聯網數據不等于大數據
大數據是指可以分析以揭示模式或趨勢的大型數據集。然而,物聯網(IoT) 數據并不一定與數量有關,而是與數據的質量有關。此外,此數據可以是時間序列傳感器或音頻數據,或圖像,并且可能需要進行預處理。
將數字信號處理
(DSP)
等傳統傳感器數據處理技術與AI/ML相結合,可以產生新的邊緣AI算法,提供以前技術無法實現的準確洞察力。但物聯網數據不是大數據,因此用于邊緣人工智能開發的這些數據集的數量和分析會有所不同。根據生成的模型準確性和性能快速試驗數據集大小和質量是通往生產可部署算法道路上的重要一步。
開發硬件已經夠難了
如果不知道所選硬件是否可以運行邊緣AI軟件工作負載,則構建硬件很困難。在選擇材料清單之前就開始對硬件進行基準測試至關重要。對于現有硬件,設備上可用內存的限制可能更為關鍵。
即使使用早期的小型數據集,邊緣AI開發平臺也可以開始提供運行AI工作負載所需的硬件類型的性能和內存估計。
有一個過程來權衡設備選擇和基準測試與早期版本的邊緣AI模型可以確保硬件支持到位,以支持將在設備上運行的所需固件和AI模型。
構建、驗證新的邊緣AI軟件并將其推向生產
選擇開發平臺時,還值得考慮不同廠商提供的工程支持。Edge AI包含數據科學、ML、固件和硬件,供應商在內部開發團隊可能需要一些額外支持的領域提供指導非常重要。
在某些情況下,它不是關于將要開發的實際模型,而是更多關于系統級設計流程的規劃,包括數據基礎設施、ML開發工具、測試、部署環境和持續集成、持續部署 (CI /CD) 管道。
最后,對于邊緣AI開發工具而言,重要的是要適應團隊中的不同用戶——從ML工程師到固件開發人員。低代碼/無代碼用戶界面是快速構建新應用原型和構建新應用的好方法,而API和SDK對更有經驗的ML開發人員很有用,他們可以從Jupyter notebooks使用Python更好更快地工作。
平臺提供了訪問靈活性的優勢,迎合了構建邊緣AI應用的跨職能團隊中可能存在的多個利益相關者或開發人員的需求。