自主系統(tǒng)的新時(shí)代將需要在更靠近源頭的地方進(jìn)行快速數(shù)據(jù)處理，這使得一些CIO把網(wǎng)絡(luò)邊緣的AI加入到他們的2025年路線(xiàn)圖中。

根據(jù)Gartner最新的報(bào)告預(yù)測(cè)，企業(yè)AI即將到來(lái)的階段，將預(yù)示著出現(xiàn)只要最少人工干預(yù)的代理系統(tǒng)，僅今年一年就有75%的CIO增加了AI預(yù)算。隨著生成式AI被嵌入到越來(lái)越多的設(shè)備中，賦予它自主決策權(quán)就將取決于實(shí)時(shí)數(shù)據(jù)，以及避免過(guò)高的云成本，這就是邊緣計(jì)算的用武之地。

通過(guò)在更靠近源頭的地方處理數(shù)據(jù)，邊緣計(jì)算可以通過(guò)最大限度地減少數(shù)據(jù)傳輸來(lái)實(shí)現(xiàn)更快的決策并降低成本，成為AI一個(gè)具有吸引力的環(huán)境。前美國(guó)白宮首席信息官、網(wǎng)絡(luò)安全公司Fortalice Solutions創(chuàng)始人Theresa Payton表示：“邊緣計(jì)算正在迅速發(fā)展，從一個(gè)有前途的概念演變成許多行業(yè)的關(guān)鍵工具。到2025年，邊緣計(jì)算將變得更加普及，尤其是隨著AI和物聯(lián)網(wǎng)的擴(kuò)大?！?/p>

例如，總部位于美國(guó)威斯康星州的電力供應(yīng)公司Dairyland Power Cooperative已經(jīng)轉(zhuǎn)向利用AI來(lái)改善現(xiàn)場(chǎng)基礎(chǔ)設(shè)施的優(yōu)化和性能?！癆I讓邊緣計(jì)算變得和CIO相關(guān)性更高，因?yàn)樗梢詭椭覀兘档蛿?shù)據(jù)處理延遲。在我們追求實(shí)時(shí)處理的情況下，這可能是一個(gè)巨大的優(yōu)勢(shì)，”該公司副總裁、首席信息官Nate Melby表示。

其他人也表示認(rèn)同，隨著AI的全面推出，邊緣處理的增加將自然而然地出現(xiàn)。分布式云計(jì)算平臺(tái)公司Akamai的高級(jí)副總裁、首席技術(shù)官Robert Blumofe表示：“隨著AI應(yīng)用在關(guān)鍵任務(wù)企業(yè)用例中的激增，一些AI應(yīng)用將轉(zhuǎn)向邊緣，邊緣計(jì)算可以減少延遲、降低成本以及數(shù)據(jù)暴露的風(fēng)險(xiǎn)?！?/p>

但企業(yè)中的生成式AI被大肆炒作，實(shí)際上增值用例很少，分析師們戳破了這些泡沫，一些技術(shù)領(lǐng)導(dǎo)者也放棄了。最近人們對(duì)AI的興趣有所減弱，AVOA公司的首席信息官、戰(zhàn)略顧問(wèn)Tim Crawford就提醒，領(lǐng)導(dǎo)者們要進(jìn)行謹(jǐn)慎的投資。不過(guò)他認(rèn)為，生成式AI以及某些邊緣應(yīng)用有很多以效率為導(dǎo)向的機(jī)會(huì)，這些機(jī)會(huì)是值得我們探索的。

投資邊緣計(jì)算的CIO

近年來(lái)，人們對(duì)邊緣計(jì)算的興趣呈滾雪球式增長(zhǎng)。根據(jù)IDC的估計(jì)，到2024年，全球在邊緣計(jì)算上的支出將增加14%。引起人們興趣的一大驅(qū)動(dòng)力就是把AI投入實(shí)際應(yīng)用，這需要低延遲和隱私性，而邊緣計(jì)算在這些方面表現(xiàn)出色。

Blumofe表示：“我們看到邊緣計(jì)算的使用范圍在迅速擴(kuò)大，我們將邊緣計(jì)算用于我們自己的應(yīng)用中，客戶(hù)也越來(lái)越多地將其用于他們的應(yīng)用中?！闭雇?025年，有越來(lái)越多的CIO計(jì)劃在邊緣實(shí)施AI。

Melby表示：“明年，我們的組織希望利用邊緣計(jì)算來(lái)幫助增強(qiáng)運(yùn)營(yíng)決策智能，以及改善我們向智能資產(chǎn)邁進(jìn)的軌跡?！彼麄兯诘念I(lǐng)域，AI和邊緣計(jì)算正在成為實(shí)現(xiàn)下一代高度智能的工業(yè)數(shù)字化運(yùn)營(yíng)的必要條件。他說(shuō)，這是建立新的、網(wǎng)絡(luò)化的、動(dòng)態(tài)的能源生態(tài)系統(tǒng)的基礎(chǔ)。

據(jù)Fortalice Solutions的Payton稱(chēng)，將數(shù)據(jù)處理轉(zhuǎn)移到更接近數(shù)據(jù)創(chuàng)建地點(diǎn)，這對(duì)于那些需要立即采取行動(dòng)和實(shí)時(shí)洞察的應(yīng)用來(lái)說(shuō)尤其有益，無(wú)論是在零售、制造還是客戶(hù)體驗(yàn)領(lǐng)域?！澳切﹥?yōu)先考慮實(shí)時(shí)決策和數(shù)據(jù)處理的組織，應(yīng)該在2025年及以后的路線(xiàn)圖中計(jì)劃采用邊緣計(jì)算?！?/p>

AI與邊緣計(jì)算齊頭并進(jìn)

軟件公司Bizagi的首席信息官Antonio Vázquez表示，邊緣計(jì)算就是在數(shù)據(jù)收集和處理終端進(jìn)行實(shí)時(shí)數(shù)據(jù)處理，因此AI自然而然就成了邊緣計(jì)算的搭檔?！癆I可以通過(guò)提高數(shù)據(jù)傳輸、可擴(kuò)展性、安全性和成本方面的效率，幫助解決過(guò)去阻礙邊緣技術(shù)采用的那些問(wèn)題?！?/p>

運(yùn)營(yíng)方面的收益也值得考慮?！癆I通過(guò)在網(wǎng)絡(luò)邊緣實(shí)現(xiàn)實(shí)時(shí)的、智能的數(shù)據(jù)處理，使邊緣計(jì)算與CIO之間的相關(guān)性越來(lái)越高，”計(jì)算公司Macrometa的首席執(zhí)行官、聯(lián)合創(chuàng)始人Chetan Venkatesh這樣表示。對(duì)他來(lái)說(shuō)，這種組合可以帶來(lái)提升的性能提升、增強(qiáng)的用戶(hù)體驗(yàn)、新的應(yīng)用交付方法以及更好的彈性。另一個(gè)好處是數(shù)據(jù)隱私，這是AI系統(tǒng)一個(gè)有爭(zhēng)議的話(huà)題。他說(shuō)：“在本地處理敏感數(shù)據(jù)，可以解決人們對(duì)數(shù)據(jù)主權(quán)和合規(guī)性日益增長(zhǎng)的擔(dān)憂(yōu)?！?/p>

提高數(shù)據(jù)處理方式和位置，也會(huì)帶來(lái)積極的業(yè)務(wù)成果。Payton表示：“AI使邊緣計(jì)算與CIO高度相關(guān)，因?yàn)樗屍髽I(yè)可以在更接近數(shù)據(jù)生成地點(diǎn)的地方處理和分析數(shù)據(jù)。隨著AI的不斷發(fā)展，它對(duì)快速數(shù)據(jù)處理的依賴(lài)使邊緣計(jì)算不僅有益，而且對(duì)競(jìng)爭(zhēng)優(yōu)勢(shì)至關(guān)重要?！?/p>

邊緣AI的用例

AI推理可以放在設(shè)備上、本地或者云端，但邊緣在速度和隱私至關(guān)重要的眾多場(chǎng)景中大放異彩。Venkatesh說(shuō):“邊緣AI讓你可以在最重要的地方——靠近數(shù)據(jù)源的地方進(jìn)行即時(shí)決策，實(shí)現(xiàn)了那些以前不可能實(shí)現(xiàn)的用例?！?/p>

許多面向用戶(hù)的場(chǎng)景，都可以從基于邊緣的AI中受益。Payton特別強(qiáng)調(diào)了面部識(shí)別技術(shù)、半自動(dòng)駕駛汽車(chē)的實(shí)時(shí)交通更新以及聯(lián)網(wǎng)設(shè)備和智能手機(jī)上的數(shù)據(jù)驅(qū)動(dòng)增強(qiáng)功能，都是潛在的領(lǐng)域。她說(shuō)：“在零售業(yè)，AI可以通過(guò)智能設(shè)備實(shí)時(shí)提供個(gè)性化體驗(yàn)；在醫(yī)療領(lǐng)域，可穿戴設(shè)備中基于邊緣的AI可以檢測(cè)到異常時(shí)，立即提醒醫(yī)療專(zhuān)業(yè)人員，從而有可能挽救生命?！?/p>

Bizagi的Vázquez表示，AI和邊緣計(jì)算在智能城市中取得了明顯的勝利。他表示，邊緣AI模型除了控制交通信號(hào)燈之外，還可以提供多種幫助例如公民安全、自動(dòng)駕駛、智能電網(wǎng)和自我修復(fù)基礎(chǔ)設(shè)施。就他而言，巴林、格拉斯哥和拉斯維加斯等城市已經(jīng)在試水AI了，目的是加強(qiáng)城市規(guī)劃、緩解交通流量和提高公共安全。

自主管理的智能基礎(chǔ)設(shè)施，這無(wú)疑是Dairyland的Melby的首要考慮因素，因?yàn)槟茉葱袠I(yè)正在努力利用AI來(lái)實(shí)現(xiàn)排放目標(biāo)、過(guò)渡到可再生能源、以及提高電網(wǎng)的彈性。他說(shuō)：“我們正試圖接受更靈活的能源交換，分配能源生產(chǎn)，并在實(shí)時(shí)運(yùn)營(yíng)中融合多種資源。通過(guò)利用AI和邊緣計(jì)算，我們可以建立具有明確和可預(yù)測(cè)邊界的機(jī)器決策，從而有效地降低一些復(fù)雜的運(yùn)營(yíng)決策的風(fēng)險(xiǎn)。”其中一個(gè)特定領(lǐng)域，就是根據(jù)成本和預(yù)測(cè)選擇和平衡多種能源，例如風(fēng)能、太陽(yáng)能或電池存儲(chǔ)，以及自動(dòng)優(yōu)化雙向電力流。

另一個(gè)領(lǐng)域是制造業(yè)。Akamai的Blumofe指出，制造商可以使用邊緣AI算法來(lái)監(jiān)控生產(chǎn)質(zhì)量和工作場(chǎng)所安全，并對(duì)生產(chǎn)流程進(jìn)行實(shí)時(shí)調(diào)整，還包括預(yù)測(cè)性維護(hù)和機(jī)器自我診斷等。

AVOA的Crawford表示，其他特殊情況也很重要，例如讓?xiě)?zhàn)區(qū)士兵使用生成式AI。然而，總的來(lái)說(shuō)，他對(duì)邊緣AI的看法更為務(wù)實(shí)一些，認(rèn)為它更像是一種專(zhuān)業(yè)用例，而不是一種包羅萬(wàn)象的技術(shù)。他說(shuō)：“邊緣AI和計(jì)算仍然非常小眾”，他將其中一部分歸因于訓(xùn)練模型的高成本和低回報(bào)，“必須有顯著的價(jià)值來(lái)抵消成本”。

邊緣對(duì)業(yè)務(wù)的影響

CIO們往往對(duì)邊緣AI給業(yè)務(wù)帶來(lái)的影響持積極態(tài)度，認(rèn)為它可以提高可靠性、減少數(shù)據(jù)傳輸、增強(qiáng)個(gè)性化并降低數(shù)據(jù)泄露風(fēng)險(xiǎn)。

其中一個(gè)關(guān)鍵好處，就是將可靠性帶到了邊緣。Bizagi公司的Vázquez表示：“對(duì)于任何需要優(yōu)化資源、靠近事件發(fā)生地點(diǎn)、遠(yuǎn)離系統(tǒng)管理地點(diǎn)的技術(shù)來(lái)說(shuō)，自我修復(fù)系統(tǒng)是提高其可靠性的關(guān)鍵”，可以通過(guò)使用AI驅(qū)動(dòng)的組件來(lái)實(shí)現(xiàn)負(fù)載平衡、容錯(cuò)或預(yù)測(cè)異常檢測(cè)。

除了傳統(tǒng)的保護(hù)措施外，邊緣自主AI將帶來(lái)前所未有的實(shí)時(shí)操作響應(yīng)能力。Melby說(shuō)：“改進(jìn)的決策智能，持續(xù)和無(wú)縫的精簡(jiǎn)自動(dòng)化，以及實(shí)現(xiàn)確保未來(lái)互操作性的數(shù)字生態(tài)系統(tǒng)，這這些都是巨大的好處。”特別是在能源行業(yè)，邊緣自主AI可以通過(guò)從被動(dòng)方法轉(zhuǎn)向預(yù)測(cè)方法來(lái)幫助改善電網(wǎng)維護(hù)。

除了運(yùn)營(yíng)效益外，其他人還希望通過(guò)邊緣AI提供更快速的、更個(gè)性化的體驗(yàn)來(lái)提升客戶(hù)體驗(yàn)。Macrometa公司的Venkatesh表示：“當(dāng)今的用戶(hù)期望獲得即時(shí)的、智能的且富有洞察力的在線(xiàn)體驗(yàn)?！比欢?，這些日益動(dòng)態(tài)的交互往往需要向遠(yuǎn)程服務(wù)器發(fā)出API請(qǐng)求鏈，但這會(huì)導(dǎo)致延遲。他說(shuō)：“設(shè)計(jì)精良的、部署良好的邊緣AI集成了更多功能，并且代碼更改極少，使企業(yè)能夠提供用戶(hù)渴望的實(shí)時(shí)交互式體驗(yàn)?！?/p>

雖然潛在的好處比比皆是，但期望必須基于現(xiàn)實(shí)，因?yàn)槿绻麤](méi)有業(yè)務(wù)成果，很多用例就會(huì)被拋在一邊，Crawford說(shuō)。

由于AI訓(xùn)練和推理的絕對(duì)功率要求很高，因此門(mén)檻也很高，這就造成了物理上的限制。他指出，愛(ài)爾蘭最近發(fā)生的一次電網(wǎng)故障就給AI處理等能源密集型計(jì)算任務(wù)造成了影響。

正確使用邊緣AI

在邊緣實(shí)施AI，應(yīng)該是和謹(jǐn)慎樂(lè)觀的態(tài)度相平衡的。例如，Payton建議把AI戰(zhàn)略和業(yè)務(wù)成果相結(jié)合，采取“走而不跑”的方法。“我建議CIO實(shí)施試點(diǎn)-測(cè)試-學(xué)習(xí)的方法，確保在實(shí)施AI和邊緣計(jì)算時(shí)充分了解總體擁有成本、安全注意事項(xiàng)和業(yè)務(wù)彈性計(jì)劃，”她說(shuō)。

CIO們還必須證明投資的合理性，優(yōu)化對(duì)實(shí)物資產(chǎn)的使用。Melby建議組織要仔細(xì)考慮他們?cè)噲D解決的問(wèn)題以及結(jié)果會(huì)是什么。他說(shuō)：“我所在的行業(yè)中，我們正在努力提高效率和彈性，而AI的邊緣計(jì)算將以我們從前無(wú)法實(shí)現(xiàn)的方式提供幫助，這種潛力是變革性的。”他補(bǔ)充說(shuō)，CIO們應(yīng)該仔細(xì)規(guī)劃模塊化或小型數(shù)據(jù)中心在邊緣的位置，以獲得最大的價(jià)值。

Blumofe說(shuō)，成功還取決于為現(xiàn)有的應(yīng)用選擇正確的模型，因?yàn)椴⒎敲總€(gè)AI應(yīng)用都需要在耗電的高端GPU上運(yùn)行大型語(yǔ)言模型等繁重工作。他說(shuō)：“在很多企業(yè)用例中，針對(duì)普通CPU運(yùn)行而優(yōu)化的小型AI模型是一個(gè)更好的解決方案。這種在邊緣運(yùn)行的優(yōu)化模型可以顯著降低延遲和成本。”隨著市場(chǎng)中大型語(yǔ)言模型的數(shù)量不斷激增，簡(jiǎn)單地分析可用的選項(xiàng)也是一項(xiàng)任務(wù)。

除了做出合理的判斷之外，在蜂窩技術(shù)中融入與平臺(tái)無(wú)關(guān)的工具和前沿技術(shù)，這對(duì)于邊緣的未來(lái)也很重要。Payton說(shuō)：“優(yōu)先考慮可擴(kuò)展的、分散的架構(gòu)，這種架構(gòu)可以在處理AI工作負(fù)載的同時(shí)利用無(wú)縫集成了邊緣、云和本地系統(tǒng)的混合云解決方案。此外，5G等技術(shù)將在支持更快的數(shù)據(jù)傳輸方面發(fā)揮關(guān)鍵作用，使邊緣計(jì)算更加可行和有效?！?/p>

為更清潔的未來(lái)做好準(zhǔn)備

Crawford說(shuō)，來(lái)自各個(gè)方向的阻力很快就會(huì)到來(lái)，而CIO們還沒(méi)有充分意識(shí)到這些阻力。其中之一就是碳足跡，例如，歐盟《企業(yè)可持續(xù)發(fā)展報(bào)告指令》（CSRD）將在2025年初生效，該指令要求準(zhǔn)確核算企業(yè)對(duì)環(huán)境的影響。

此類(lèi)法規(guī)可能會(huì)使不少AI計(jì)劃的部署變得更加復(fù)雜。因此，在這種環(huán)境下，CIO們必須是聰明且有意識(shí)的。Crawford鼓CIO在涉足AI之前就設(shè)想好價(jià)值鏈，評(píng)估風(fēng)險(xiǎn)技術(shù)債務(wù)的前景，重點(diǎn)提高彈性。

Payton表示：“總體來(lái)看，實(shí)施強(qiáng)調(diào)安全性、可靠性、透明度、公平性和問(wèn)責(zé)制的最佳實(shí)踐非常重要，這可以解決偏見(jiàn)、安全漏洞和道德問(wèn)題等風(fēng)險(xiǎn)?！?/p>

雖然AI帶來(lái)的風(fēng)險(xiǎn)可能會(huì)讓人停下來(lái)思考，但不變革就會(huì)面臨失敗。Venkatesh表示：“對(duì)于那些希望增強(qiáng)基礎(chǔ)設(shè)施的CIO來(lái)說(shuō)，采用AI進(jìn)行邊緣計(jì)算不僅是一種趨勢(shì)，而且是保持競(jìng)爭(zhēng)力的必要條件?！?/p>