機(jī)器人、智能設(shè)備的邊緣AI即將問(wèn)世
Souped up工業(yè)機(jī)器人和智能設(shè)備將徹底改變我們?cè)谶吘墏?cè)使用AI的方式,并加深我們對(duì)云和數(shù)據(jù)中心的理解。
人形機(jī)器人、智能設(shè)備和自動(dòng)駕駛經(jīng)常被引為邊緣側(cè)利潤(rùn)豐厚的商業(yè)應(yīng)用場(chǎng)景。但邊緣側(cè)AI計(jì)算將把AI從數(shù)據(jù)中心和云中的集中式服務(wù)器中解放出來(lái),部署到制造工廠、手術(shù)室以及整個(gè)市政中心,實(shí)時(shí)處理數(shù)據(jù),更接近物聯(lián)網(wǎng)設(shè)備、傳感器和智能系統(tǒng)。它還提供了低延遲和自主決策功能,使AI無(wú)處不在,并使全自主工業(yè)設(shè)施成為可能,從而徹底改變商業(yè)和日常生活。
羅克韋爾自動(dòng)化公司的CIO深知這一點(diǎn),該公司是英偉達(dá)的客戶和合作伙伴,在邊緣側(cè)AI計(jì)算方面處于前沿地位。“AI從以云為中心的架構(gòu)向基于邊緣的部署的分散化轉(zhuǎn)變,不僅僅代表著技術(shù)上的演進(jìn),”這位數(shù)字轉(zhuǎn)型提供商的CIO克里斯·納爾代基亞說(shuō)道。上個(gè)月,該公司在英偉達(dá)GTC大會(huì)上展示了其Emulate3D高級(jí)工廠規(guī)模虛擬控制測(cè)試技術(shù)。“這從根本上重新定義了AI能力如何融入我們工業(yè)和個(gè)人環(huán)境的各個(gè)方面。”
該解決方案與英偉達(dá)的Omniverse API集成,將使制造商能夠通過(guò)虛擬工廠驗(yàn)收測(cè)試,在物理部署之前驗(yàn)證自動(dòng)化系統(tǒng)。
例如,邊緣側(cè)AI能夠使企業(yè)在倉(cāng)庫(kù)中的智能設(shè)備或機(jī)器人上部署AI應(yīng)用程序,在數(shù)據(jù)源附近而不是從公有云或數(shù)據(jù)中心運(yùn)行計(jì)算密集型推理和決策模型,這大大加快了AI的速度。
在最近的會(huì)議上,英偉達(dá)繼續(xù)大力推動(dòng)邊緣側(cè)發(fā)展,推出了一系列先進(jìn)的AI硬件、軟件平臺(tái)和開(kāi)發(fā)者框架,包括Jetson Orin、Xavier和Nano平臺(tái)、針對(duì)邊緣側(cè)高級(jí)應(yīng)用增強(qiáng)的Blackwell Ultra AI芯片、用于自主機(jī)器的Groot N1 AI機(jī)器人模型、用于工業(yè)和醫(yī)療需求的IGX Orin工業(yè)級(jí)邊緣側(cè)AI平臺(tái),以及英偉達(dá)AI數(shù)據(jù)平臺(tái),以在邊緣側(cè)實(shí)現(xiàn)數(shù)據(jù)分析。
特別是英偉達(dá)的核心EGX企業(yè)邊緣側(cè)AI平臺(tái),為醫(yī)療、制造和零售行業(yè)提供實(shí)時(shí)AI工作負(fù)載支持,而其Metropolis平臺(tái)則為智慧城市提供邊緣側(cè)視頻分析支持。
在英偉達(dá)GTC大會(huì)上推出的Jetson Nano超級(jí)工作站,將為遠(yuǎn)程辦公室或商業(yè)中心的企業(yè)用戶提供強(qiáng)大的AI功能。而其針對(duì)醫(yī)療行業(yè)的Clara、針對(duì)自動(dòng)駕駛的Drive和針對(duì)5G網(wǎng)絡(luò)的Aerial,也將提供實(shí)時(shí)監(jiān)控、預(yù)測(cè)性維護(hù)和流程優(yōu)化功能,以減少現(xiàn)場(chǎng)工業(yè)資產(chǎn)的停機(jī)時(shí)間,提高整個(gè)生命周期內(nèi)的系統(tǒng)性能。
一位分析師表示,英偉達(dá)用于物理AI的平臺(tái)和產(chǎn)品陣容,如用于工業(yè)數(shù)字化的Omniverse,凸顯了英偉達(dá)正在從單純的半導(dǎo)體制造商,擴(kuò)展成為硬件、平臺(tái)、工具和框架提供商。
“市場(chǎng)還沒(méi)有理解英偉達(dá)此舉的意義,”Gartner集團(tuán)首席AI分析師奇拉格·德卡特說(shuō)。“這真的令人嘆為觀止。EGX和Jetson的組合,再加上英偉達(dá)的Cosmos平臺(tái),你可以在其中開(kāi)發(fā)結(jié)合了AI和數(shù)字孿生優(yōu)勢(shì)的物理AI類環(huán)境,從而創(chuàng)建一個(gè)環(huán)境,幫助加速可以在邊緣側(cè)部署的智能的訓(xùn)練。而邊緣側(cè)正是他們現(xiàn)在正在改造我們的機(jī)器人、智能機(jī)器人、自動(dòng)駕駛汽車和人形機(jī)器人的地方。他們正在形成一個(gè)新的增長(zhǎng)領(lǐng)域,就像他們?cè)跀?shù)據(jù)中心使用GPU時(shí)所做的那樣。”
事件順序
市場(chǎng)最初接受了用于內(nèi)容創(chuàng)作的GenAI,然后轉(zhuǎn)向了自主式AI,使模型能夠進(jìn)行推理和執(zhí)行任務(wù)。但工業(yè)AI革命的核心是物理AI或啟用AI的機(jī)器人,它可以實(shí)現(xiàn)完全自主的工業(yè)設(shè)施,其中大部分部署在邊緣側(cè)。
例如,羅克韋爾的自主導(dǎo)航機(jī)器人(AMR)在吞吐量、勞動(dòng)力優(yōu)化和節(jié)省時(shí)間方面產(chǎn)生了可衡量的影響。納爾代基亞說(shuō),這些機(jī)器人作為移動(dòng)邊緣計(jì)算平臺(tái),在本地處理傳感器數(shù)據(jù),同時(shí)將匯總的見(jiàn)解反饋給公司的FactoryTalk Edge Manager。
英偉達(dá)用于邊緣計(jì)算的平臺(tái)將擴(kuò)展、豐富和公開(kāi)工業(yè)數(shù)據(jù),通過(guò)應(yīng)用和分析創(chuàng)造新的價(jià)值來(lái)源。納爾代基亞說(shuō),當(dāng)物理AI和自主式AI相結(jié)合時(shí),這種能力變得特別強(qiáng)大,能夠?qū)崿F(xiàn)真正的自主系統(tǒng),可以在最少的人工干預(yù)下感知、決策和行動(dòng)。他還表示,羅克韋爾對(duì)Otto Motors和Clearpath Robotics的戰(zhàn)略收購(gòu),使該公司在生產(chǎn)物流自動(dòng)化方面處于有利地位。
邊緣側(cè)AI正在改變工業(yè)數(shù)字化
根據(jù)IDC對(duì)27個(gè)企業(yè)行業(yè)的最新預(yù)測(cè),今年全球在邊緣計(jì)算解決方案上的支出將達(dá)到近2610億美元,預(yù)計(jì)將以13.8%的復(fù)合年增長(zhǎng)率(CAGR)增長(zhǎng),到2028年將達(dá)到3800億美元。
IDC研究副總裁、云和邊緣服務(wù)部門(mén)負(fù)責(zé)人戴夫·麥卡錫表示:“邊緣計(jì)算有望重新定義企業(yè)如何利用實(shí)時(shí)數(shù)據(jù),其未來(lái)取決于針對(duì)獨(dú)特運(yùn)營(yíng)需求量身定制的行業(yè)特定解決方案。”“我們看到服務(wù)提供商正在加倍投資,建設(shè)低延遲網(wǎng)絡(luò),增強(qiáng)AI驅(qū)動(dòng)的邊緣分析,并建立合作伙伴關(guān)系,以提供可擴(kuò)展且安全的基礎(chǔ)設(shè)施。這些努力對(duì)于充分發(fā)揮邊緣計(jì)算的潛力至關(guān)重要,從更智能的制造工廠到響應(yīng)迅速的醫(yī)療系統(tǒng),最終推動(dòng)各行各業(yè)的新一輪創(chuàng)新。”
因此,CIO們正在規(guī)劃他們的下一代AI架構(gòu),利用強(qiáng)大的平臺(tái)、工具和框架來(lái)打造機(jī)器人和物聯(lián)網(wǎng)設(shè)備,而這些設(shè)備和機(jī)器人需要具備自主決策能力。
“CIO們肯定計(jì)劃將AI用于邊緣工作負(fù)載,” Dairyland Power Cooperative的CIO Nate Melby說(shuō),他正著眼于此類進(jìn)步,以在暴風(fēng)雨中管理電網(wǎng),并使系統(tǒng)能夠在危險(xiǎn)環(huán)境中進(jìn)行快速分析和決策。人們還預(yù)計(jì),在其他人類難以到達(dá)的物理環(huán)境中使用邊緣AI設(shè)備將帶來(lái)新的商業(yè)機(jī)會(huì)和盈利結(jié)果。
Melby說(shuō):“通過(guò)將AI推向邊緣,我們可以減少對(duì)集中式架構(gòu)的依賴,從而建立彈性,并通過(guò)將云資源與本地設(shè)備相結(jié)合來(lái)優(yōu)化和處理更敏感或關(guān)鍵任務(wù)數(shù)據(jù),以實(shí)現(xiàn)更容易的擴(kuò)展和資源靈活性。但這還需要一段時(shí)間才能發(fā)展成熟。”
邊緣計(jì)算的興趣倍增
包括OpenAI、谷歌、亞馬遜和創(chuàng)新的AI初創(chuàng)公司在內(nèi)的許多頂級(jí)云和AI供應(yīng)商都在瞄準(zhǔn)邊緣計(jì)算。例如,云提供商O(píng)racle最近為其Oracle Roving Edge Device添加了一個(gè)GPU優(yōu)化配置。“我們看到客戶對(duì)邊緣計(jì)算AI有需求,”O(jiān)racle Cloud Infrastructure的現(xiàn)場(chǎng)和行業(yè)營(yíng)銷高級(jí)副總裁Dave Rosenberg說(shuō)。
Insight Enterprises產(chǎn)品創(chuàng)新的首席技術(shù)官Amol Ajgaonkar補(bǔ)充說(shuō),除了制造業(yè)之外,許多行業(yè)也將利用邊緣AI,但這并不容易。如果將邊緣定義為任何不在云中的東西——比如筆記本電腦、制造車間的一臺(tái)機(jī)器、零售店中的銷售點(diǎn)設(shè)備——那么醫(yī)療保健、零售和金融等行業(yè)將成為邊緣AI的主要目標(biāo),他說(shuō)。
Ajgaonkar說(shuō):“在邊緣使用AI,一個(gè)很大的挑戰(zhàn)是確定哪些數(shù)據(jù)對(duì)手頭的任務(wù)是有用的,哪些是無(wú)用的,并設(shè)置流程,以便AI代理或一組代理可以在不需要人類持續(xù)參與的情況下進(jìn)行管理。當(dāng)創(chuàng)建預(yù)測(cè)模型(例如管理工廠車間機(jī)器的持續(xù)維護(hù))時(shí),如果未經(jīng)過(guò)濾就存在某些偏差或畸形數(shù)據(jù),則會(huì)影響模型并扭曲代理產(chǎn)生的結(jié)果。干凈的數(shù)據(jù)輸入始終對(duì)干凈的輸出至關(guān)重要,但這是一項(xiàng)微妙的平衡。”
AI咨詢公司Intelagen的CEO兼前CIO Tom Richer說(shuō),他建議CIO們密切關(guān)注Nvidia的進(jìn)步,因?yàn)镹vidia在AI基礎(chǔ)設(shè)施、數(shù)據(jù)中心轉(zhuǎn)型和邊緣AI能力方面占據(jù)主導(dǎo)地位,所有這些都直接影響組織的創(chuàng)新和競(jìng)爭(zhēng)能力。
他說(shuō):“隨著邊緣計(jì)算越來(lái)越多地被用于AI工作負(fù)載,這是由低延遲、帶寬優(yōu)化和增強(qiáng)的安全性需求所驅(qū)動(dòng)的,這需要在內(nèi)部部署和服務(wù)提供商部署之間做出戰(zhàn)略決策,而混合方法通常被證明在平衡控制和可擴(kuò)展性方面最有效。而這需要CIO們制定明確的戰(zhàn)略、投資必要的基礎(chǔ)設(shè)施,并時(shí)刻關(guān)注不斷演變的技術(shù)。”
從邊緣獲益
物理AI的實(shí)施需要強(qiáng)大的邊緣計(jì)算能力,以處理傳感器數(shù)據(jù)并執(zhí)行復(fù)雜的算法,同時(shí)保持最小的延遲。邊緣計(jì)算通過(guò)將數(shù)據(jù)處理帶到更接近數(shù)據(jù)源的地方,從而實(shí)現(xiàn)更快的響應(yīng)時(shí)間、更高的數(shù)據(jù)傳輸效率和更強(qiáng)的安全性——這對(duì)于機(jī)器人技術(shù)和工業(yè)自動(dòng)化中的應(yīng)用而言都是關(guān)鍵因素,Rockwell的Nardecchia解釋道。
隨著平臺(tái)和技術(shù)的不斷成熟,我們可以預(yù)計(jì)AI將越來(lái)越多地嵌入到工業(yè)環(huán)境中的物理系統(tǒng)中。
對(duì)于像Rockwell這樣的公司而言,這一演變代表了一個(gè)機(jī)會(huì),可以在其產(chǎn)品組合中整合邊緣AI能力。適當(dāng)管理的邊緣計(jì)算帶來(lái)的業(yè)務(wù)成果是巨大的,包括以可負(fù)擔(dān)的價(jià)格訪問(wèn)數(shù)據(jù)、更快的軟件部署、未來(lái)就緒的分析平臺(tái)、改進(jìn)的安全態(tài)勢(shì)、更好地?cái)U(kuò)展數(shù)字化轉(zhuǎn)型舉措以及降低總擁有成本。
Edge AI Foundation表示,CIO和企業(yè)希望在邊緣實(shí)現(xiàn)自動(dòng)化和智能設(shè)備。該非營(yíng)利組織的首席執(zhí)行官Pete Bernard說(shuō):“邊緣AI的核心是在數(shù)據(jù)產(chǎn)生的地方運(yùn)行AI工作負(fù)載,向邊緣靠攏的引力意味著更低的成本、更低的功耗、更大的影響力,通常也意味著增強(qiáng)的隱私、更低的延遲、更高的靈活性和清晰度。CIO們負(fù)責(zé)確定信息戰(zhàn)略。您希望將計(jì)算盡可能移動(dòng)到數(shù)據(jù)產(chǎn)生的地方,避免云的入口和出口費(fèi)用以及運(yùn)營(yíng)成本,并總體上對(duì)您的處理?yè)碛懈嗟目刂茩?quán)。”
隨著平臺(tái)和技術(shù)的不斷成熟,我們可以預(yù)計(jì)AI將越來(lái)越多地嵌入到工業(yè)環(huán)境中的物理系統(tǒng)中。
Analog Devices的邊緣AI副總裁Paul Golding說(shuō):“基礎(chǔ)模型的興起正通過(guò)提煉和量化的轉(zhuǎn)換器以及小型基礎(chǔ)模型向邊緣擴(kuò)展。這一轉(zhuǎn)變需要在邊緣部署密集且計(jì)算密集的基礎(chǔ)設(shè)施。同時(shí),實(shí)時(shí)處理、低延遲和隱私的需求正推動(dòng)AI更接近數(shù)據(jù)源——我們通常稱之為傳感器或物理邊緣。自主式AI能夠在異構(gòu)節(jié)點(diǎn)上自主學(xué)習(xí)、適應(yīng)和實(shí)時(shí)行動(dòng),這將徹底改變?nèi)蝿?wù)編排,隨著我們從機(jī)器自動(dòng)化邁向機(jī)器自主,將出現(xiàn)新的分布式智能形式,使關(guān)鍵任務(wù)能夠在邊緣運(yùn)行,而無(wú)需依賴集中式云系統(tǒng)。AI的前沿仍然廣闊無(wú)垠。”