F5搭載NVIDIA BlueField-3 DPU賦能加速 AI 應用交付
F5日前宣布推出BIG-IP Next for Kubernetes,一項全新的創新AI應用交付和應用安全解決方案,旨在為服務提供商和大型企業提供集中控制點,以加速、保護和簡化流入和流出大型人工智能(AI)基礎設施的數據流量。
該解決方案利用高性能NVIDIA BlueField-3 DPU提升對大型AI部署至關重要的數據中心流量效率。通過對網絡、流量管理和安全性的集成視圖,客戶將能夠最大化數據中心資源的利用率,同時實現最佳的AI應用性能。這不僅提高了基礎設施的效率,且實現了更快、更敏捷的AI推理,并可最終提供增強AI驅動的客戶體驗。
F5 BIG-IP Next for Kubernetes是專門為Kubernetes環境設計的解決方案,并已在大型電信云和5G基礎設施中得到驗證。通過BIG-IP Next for Kubernetes,該技術現可提供針對領先AI用例的定制化服務,例如推理、檢索增強生成(RAG)以及無縫的數據管理和存儲。與NVIDIA BlueField-3 DPU的集成最小化了硬件占用空間,實現了細粒度的多租戶,同時實現能源消耗優化,并提供高性能的網絡、安全和流量管理。
F5與NVIDIA技術的集成將允許移動和固定線路電信服務提供商能夠輕松過渡至云原生Kubernetes基礎設施,以滿足供應商日益增長的將服務功能適應至云原生網絡功能(CNFs)模型的需求。F5 BIG-IP Next for Kubernetes通過將數據密集型任務卸載至BlueField-3 DPU,以釋放CPU資源用于創收應用。該解決方案對于虛擬化RAN(vRAN)或MSO的DAA以及核心網絡中的5G尤為有益,并為未來釋放6G通信潛力奠定基礎。
專為高需求服務提供商和大型基礎設施設計的F5 BIG-IP Next for Kubernetes可帶來以下價值。
- 簡化云規模AI服務的交付:BIG-IP Next for Kubernetes可與客戶的前端網絡無縫集成,顯著降低延遲,同時提供高性能的負載均衡,以處理上億參數AI模型及高達萬億次運維操作的海量數據需求。
- 加強對AI部署的控制:該解決方案為現代AI網絡提供了集中集成點,具有豐富的可觀測性和細粒度信息。BIG-IP Next for Kubernetes支持HTTP之外的多項L7協議,確保在極高性能下實現增強的入站和出站控制。
- 保護全新AI環境:客戶可完全自動化AI訓練和推理端點發現和安全功能。BIG-IP Next for Kubernetes還可將AI應用與針對性的威脅進行隔離,加強數據完整性和主權,同時解決現代AI環境中至關重要的加密能力。
F5首席技術官和人工智能官Kunal Anand表示,“AI的普及催生了對先進半導體和技術的空前需求。目前各大企業正在構建AI工廠,即為大規模訓練AI模型及提供推理所需的強大處理能力而設計的高度優化環境,其速度驚人且具備最低延遲。而F5強大的應用交付和安全服務與NVIDIA的全棧加速計算形成了強大的生態系統。該集成解決方案覆蓋從硬件加速層到應用界面的整個AI工作負載堆棧,為客戶提供了增強的可觀察性、精細化控制和性能優化。”
NVIDIA人工智能網絡和安全合作伙伴高級總監Ash Bhalgat表示,“服務提供商和企業需要加速計算,以安全高效地在大規模云上交付高性能的AI應用。NVIDIA正在與F5合作加速AI應用交付,得以更好地確保由BlueField-3 DPU支持的峰值效率和無縫用戶體驗。”
IDC計算系統研究實踐部研究副總裁Kuba Stolarski表示, “實現AI的潛力需要比行業以往準備更多的數據處理能力。對于許多公司而言,部署尖端的AI需要大量的基礎設施建設,然而這些建設往往十分復雜且昂貴,使得高效和安全的操作比以往任何時候都更加重要。F5 BIG-IP Next for Kubernetes解決了大型AI基礎設施的性能和安全問題。通過提供優化的流量管理,企業可在AI模型推理過程中獲得更大的數據攝取性能和服務器利用率,這為AI應用用戶帶來了極大的客戶體驗提升。”
WWT人工智能、應用及API安全解決方案全球實踐經理Todd Hathaway表示,“隨著AI工作負載的爆炸式增長,企業對可擴展、優化以及增強控制的Kubernetes流量管理需求激增。隨著F5將BIG-IP Next for Kubernetes直接部署在NVIDIA BlueField-3 DPU上,這使得該項已得到驗證的技術現可允許大規模AI部署在理想接入點。WWT客戶將能夠得益于更大的數據攝取性能和GPU利用率,同時在推理過程中獲得更好的用戶體驗,并獲得戰略控制點用于安全服務。借助WTT兩家最具戰略性的合作伙伴F5和NVIDIA的先進技術,我們得以進一步加強我們的全球網絡安全使命,以提供卓越的數字安全。”
搭載NVIDIA BlueField-3 DPU的F5 BIG-IP Next for Kubernetes將于2024年11月上市。