閉環的生成式AI：將LLM和GPT集成到下一代網絡中 精華
隨著5G的全球部署和6G標準的制定，移動網絡的演進速度日益加快。在這一過程中，機器學習（ML）技術因其卓越的數據處理能力、洞察力和決策能力而成為智能移動網絡的有效解決方案。但是傳統的ML算法在處理復雜的網絡任務時，往往受限于其算法的局限性和訓練數據的質量與規模。與此同時，LLMs和GPTs在近年來展現出了在各種認知任務中接近人類水平的性能，但它們在基礎任務中常常缺乏常識，因此更多地被視為人類的輔助工具。
6月7日，來自加拿大渥太華大學和愛立信公司的五位IEEE的高級會員組成的研究團隊發表了論文《Generative AI-in-the-loop: Integrating LLMs and GPTs into the Next Generation Networks》提出了“生成式AI-in-the-loop”的概念，利用LLMs的語義理解、情境意識和推理能力，輔助人類處理移動通信網絡中的復雜或不可預見的情況。通過結合LLMs和ML模型，我們可以充分發揮兩者的優勢，實現比單獨使用任一模型都要好的結果。論文通過對LLMs能力的分析，探討了它們在下一代網絡中的潛在應用，并提供了一個使用LLMs生成的合成數據來增強ML模型性能的案例研究，進一步證明了研究團隊提出概念的優勢。
在這項研究中，研究團隊提出了“生成式AI-in-the-loop”的概念，這是一種將大型語言模型（LLMs）和機器學習（ML）模型結合起來的方法，以處理移動通信網絡中復雜或不可預見的情況。LLMs通過其語義理解、情境意識和推理能力，輔助人類管理和控制通常超出傳統ML技術能力范圍的復雜網絡任務。這種結合利用了LLMs和ML模型各自的優勢，能夠取得比單獨使用任一模型更好的結果。
他們的主要貢獻包括：
- 強調LLMs與傳統ML驅動的下一代網絡的融合，認為雖然LLMs和ML模型都顯示出巨大的能力，但它們不能取代彼此的角色。
- 分析LLMs的能力并與傳統ML算法進行比較，探索可能的整合方式，并檢視ML模型的生命周期。
- 提供一個案例研究，通過LLMs生成的合成數據來增強基于ML的網絡入侵檢測，進一步展示了所提出想法的優勢。
他們的研究不僅為移動網絡的自動化和智能化提供了新的視角和方法，也為AI技術在未來網絡中的應用提供了理論基礎和實踐指導。通過深入分析和案例驗證，他們展示了LLMs和GPTs在網絡技術中的巨大潛力，為實現AI驅動的移動通信網絡的終極目標邁出了堅實的一步。?
LLMs和GPTs的基礎知識
他們首先解釋了大型語言模型（LLMs）和傳統機器學習（ML）模型的能力。然后討論了如何實施“生成式AI-in-the-loop”，并利用LLMs和GPTs來促進下一代網絡的自動化。
圖1：與本工作主題相關的概念概述，包括AI、ML、GAI、NN、LLM、GPT和AGI。
LLMs是基于變壓器的大規模統計語言模型，它們從神經語言模型（NLMs）發展而來，并在大量數據上進行預訓練。LLMs擁有以下關鍵能力：
- 理解和生成：LLMs能夠理解人類語言并生成類似形式的輸出。此外，最新工具將LLMs與預訓練的多模態基礎模型結合起來，使LLMs的理解和生成能力不僅限于文本模態，還可以擴展到圖像、視頻和音頻等其他模態。
- 推理：推理能力如規劃和邏輯思維使LLMs能夠處理復雜任務，如解決數學問題和目標分解。這些能力可以通過熟練的提示設計，如思維鏈（CoT）、思維樹（ToT）、自我一致性和上下文學習（ICL）來提升。
- 強大的知識庫：LLMs的訓練過程可以看作是大量訓練文本的壓縮和抽象。因此，大量知識存儲在LLMs的數十億參數中，并作為LLM啟用問題解決的基礎。知識庫還可以通過微調用額外的訓練數據持續更新和補充。
- 社交能力：社交能力意味著LLMs可以以智能的方式與其他LLMs或人類進行交流和互動。這項能力促進了基于LLM的AI代理的發展，用于完全自動化的決策和控制。
盡管LLMs顯示出強大的能力，但它們的部署通常受到高成本、大規模和不穩定結果的限制，這阻止了LLMs在許多任務中完全取代傳統ML模型。為了使LLMs適合ML驅動的移動網絡，首先比較了使用LLMs和傳統ML模型的好處和顧慮。
雖然ML技術已大大提高了網絡運營的效率，但LLMs帶來的額外能力可以進一步加速下一代移動網絡的發展和全面自動化。另一方面，LLMs的輸出，特別是GPTs，可能被視為接近人類水平的智能。在一些現有研究中，LLMs在某些特定任務中表現出與人類專家相當的性能，盡管它們可能在簡單的人類任務或涉及常識的判斷中失敗。然而，在定義明確的任務中，這促進了“生成式AI-in-the-loop”的可能性，例如，LLMs在慢速時間尺度上協助人類進行網絡管理。圖2展示了下一代網絡中“生成式AI-in-the-loop”的示意圖。可以看出，有三個可選的網絡配置級別：人類級別、LLM級別和ML級別。這三個級別都可以從網絡環境中觀察所需信息，并且它們也可以相互交互，以便協作網絡管理。除了傳統ML模型，ML級別還可能包括優化算法、基于規則的靜態模型或其他小型數學模型。這個級別直接以數字格式從網絡環境中收集數據，進行性能分析，并選擇所需信息進行決策。優化算法的參數和靜態模型的規則可以由人類專家手動設置或由LLMs調整。ML模型可以在線上或離線使用特定于任務的數據進行訓練。ML級別具有短推理時間和低推理成本的優勢。因此，具有更嚴格時間要求的應用程序適合在此級別部署，包括波束管理、無線鏈路監控和用戶調度。
圖2：下一代網絡中“生成人工智能在環”的示意圖。LLM以多種方式充當人類級管理與傳統ML和優化算法之間的中介：基于語義意圖的網絡控制自動化，生成基于語義的解釋，以及執行模型和網絡管理。
實現閉環生成式AI
在這部分內容中，研究團隊討論了如何將大型語言模型（LLMs）整合到傳統的機器學習（ML）模型中，以實現“生成式AI-in-the-loop”。LLMs在下一代網絡中的作用是作為人類級別管理和傳統ML及優化算法之間的中介，它們可以基于語義意圖自動化網絡控制，生成基于語義的解釋，并執行模型和網絡管理。
LLM層位于ML層之上，能夠獲取并理解網絡環境中的多模態輸入。它還利用強大的知識庫和上下文窗口中的記憶為ML層提供高層指導，進行網絡任務相關的規劃、推理和決策。例如，它可以指導ML模型或優化算法的設計，決定基于規則的靜態模型的規則，或在不同模型之間進行協調。此外，考慮到大多數LLMs的發展不均和不穩定性，需要建立監督機制來驗證LLMs輸出的有效性并避免幻覺。可能的監督方法包括人類監督或本地數據驗證。
人類層位于框架的最頂層，具備移動網絡的專家知識，并可以涉及客戶需求和商業成本等人類因素的考慮。LLM層充當人類層與較低層之間的接口。它可以將基于意圖的網絡控制轉化為ML模型可管理的任務，并為人類生成ML層決策的解釋。
在“生成式AI-in-the-loop”框架內，LLMs和傳統ML模型的結合可以利用兩者的優勢并彌補彼此的弱點。
我們首先分析ML驅動的移動網絡管理中的一些主要問題，然后根據下一代網絡的要求介紹潛在的基于LLM的應用。
ML驅動的移動網絡管理中的開放問題首先討論了ML驅動的移動網絡管理中的一些開放問題和可能的基于LLM的解決方案：
- 高質量訓練數據的稀缺性：ML驅動的網絡管理方法通常需要大量高質量數據來訓練模型。然而，這一領域的公共數據集，特別是標記數據集，非常稀缺。特別是，一些數據集對于網絡管理來說已經過時，因為它們是在一些主要技術變革之前收集的。
- 靈活性有限：一些傳統ML模型是在理想的網絡環境設置下訓練的，它們可能不適用于現實中的次優通信渠道。此外，考慮到設備的移動性，移動網絡隨時間高度動態變化。
- 安全性：移動網絡的日益多樣化和復雜化帶來了新的安全問題。特別是，部署ML模型使移動網絡對外部數據開放，并引入了新的攻擊，如數據投毒攻擊和成員推斷攻擊。這可能加劇網絡的安全挑戰。
受上述問題和解決方案分析的啟發，有三種不同的方法將LLMs整合到下一代網絡中：
- 開發基于LLM的網絡功能：LLMs可以直接用于執行通常由傳統ML模型或基于規則的靜態模型開發的網絡功能。
- LLM輔助的網絡應用設計：LLMs也可以在設計網絡應用時作為有效工具。例如，它們可以用于代碼生成和仿真系統建模。
- 語義理解賦能的網絡管理：考慮到LLMs強大的語言理解能力，它們可以用于網絡管理中的語義理解。
- 為網絡節點構建通用AI代理：將LLMs整合到下一代網絡的另一種方式是在網絡節點上構建通用AI代理。
他們從傳統ML技術的角度討論了“生成式AI-in-the-loop”的實施。他們說明了如何將LLMs有效地整合到傳統ML模型設計中。
部署策略
在這部分內容中，研究團隊討論了在移動網絡中同時部署傳統機器學習（ML）模型和大型語言模型（LLMs）的方法。提出了三種不同的部署選項：完全集中部署、混合集中和分布式部署以及完全分布式部署。
圖3：用LLM增強ML模型的不同方法。ML模型的生命周期包括四個階段：需求階段、數據處理階段、操作階段和模型開發階段。LLM可以集成到每個階段中。
A. 在需求階段，進行模型需求分析，根據任務描述明確任務需求。這有助于決定給定任務所需的ML模型的數量和類型。這些設計傳統上是在人類專家的幫助下手動完成的。然而，隨著LLMs的出現，可以執行基于LLM的模型需求分析，將基于語義的任務描述分解為幾個小的、可管理的任務來協助人類。LLMs還可以為每個任務選擇合適的模型。通過整合，LLMs承擔了一部分原本需要手動執行的模型需求分析工作。我們將這稱為“生成式AI-in-the-loop”，以加速移動網絡的自動化。
B. 在數據處理階段，執行兩個常見步驟。第一步是從移動網絡收集數據并進行標準化。接下來，進行數據清理，以從數據集中移除不完整或異常的樣本。LLMs可以通過評估收集的數據樣本的合理性來幫助數據清理。此外，監督學習模型有兩個獨特的步驟：特征選擇和數據標記。在傳統工作流程中，特征選擇通常是通過分析特征與輸出之間的相關性來執行的。然而，這可能導致過擬合問題，決定統計措施是具有挑戰性的。相反，LLMs可以基于給定特征的語義理解進行無數據特征選擇。數據標記是為原始數據添加信息性標簽，以便ML模型可以從中學習。傳統的數據標記方法是要求人類識別未標記的數據，這導致可擴展性低和成本高。相比之下，基于LLM的自動數據注釋或與人類專家和LLMs共同進行的混合標記可以自動化標記過程并降低成本。
C. 第三階段是模型開發階段。它包括模型設計、訓練、優化和評估。在前兩個步驟中，決定了ML模型的架構，并使用上一階段準備的數據對模型進行訓練。LLMs可以通過代碼生成應用于模型設計。之后，對ML模型進行評估和優化。基于LLM的模型評估可以幫助選擇合適的評估指標，分析性能并自動調整超參數。
D. 最后一個階段是運營階段。在這個階段，ML模型部署在網絡節點上進行模型推理。它還需要監控以防模型衰退、意外數據和攻擊。在這個階段，LLMs可以用于動態模型狀態分析和生命周期管理。更具體地說，LLMs根據不同情況決定應使用哪個ML模型。模型大小、推理時間和計算成本可以作為模型管理的考慮因素。LLMs還可以用于分析ML模型的性能，并評估模型是否在現實的移動網絡場景中繼續按預期工作。如果有必要，它將啟動新ML模型的生命周期。
值得注意的是，非ML模型，如優化算法和基于規則的靜態模型也可以包括在這種整合中。對于這些模型，不需要數據處理階段和模型開發階段，但它們可以在需求階段根據需求開發，并由LLMs選擇在運營階段執行任務。
在移動網絡中部署ML模型和LLMs
在這一節中，他們討論了如何在移動網絡中同時部署傳統ML模型和LLMs。如圖4所示，有三種不同的部署選項：完全集中部署、混合集中和分布式部署以及完全分布式部署。
圖4：將LLM與ML模型相結合的三種方法。（a） LLM和ML模型都部署在中心。它們被組合用于網絡管理。（b） LLM和ML模型都是以分布式方式部署的，用于多Agent交互。（c） LLM部署在中心進行管理，ML模型以分布式方式進行本地訓練和推理。
集中部署
集中部署是指將LLMs和GPTs部署在云端或數據中心的服務器上。這種策略的優點在于能夠利用云計算的強大處理能力和存儲容量，從而支持復雜的AI模型運行。此外，集中部署有助于統一管理和維護，簡化了網絡運營的復雜性。
然而集中部署也有其缺點。它可能導致較高的延遲，因為數據需要在用戶設備和云服務器之間傳輸。集中部署可能會引發數據隱私和安全性的擔憂，因為用戶的敏感信息需要在外部服務器上處理。這種部署方式可能會遇到單點故障的風險，一旦云服務器出現問題，整個網絡服務都可能受到影響。
分布式部署
分布式部署是指在網絡的邊緣節點，如基站或用戶設備上部署LLMs和GPTs。這種策略的優點在于能夠減少數據傳輸的延遲，因為處理和決策的過程更靠近數據源。此外，分布式部署有助于提高數據隱私保護，因為用戶的數據可以在本地處理，不需要傳輸到遠程服務器。
然而，分布式部署也面臨著資源限制的挑戰。邊緣設備通常不具備與云服務器相同的計算和存儲能力，這可能限制了LLMs和GPTs的性能。此外，分布式部署需要更復雜的協調和同步機制，以確保網絡的整體性能和穩定性。
混合部署
混合部署結合了集中部署和分布式部署的優點。在這種策略下，LLMs通常部署在云端，而GPTs則部署在邊緣節點。這樣，可以利用云計算的強大能力來處理復雜的任務，同時也能夠利用邊緣計算的低延遲優勢來提供快速響應。
混合部署的挑戰在于需要有效地管理云端和邊緣之間的交互。這包括數據同步、模型更新以及處理結果的集成。此外，混合部署可能會增加網絡的復雜性，需要精心設計的架構來確保不同層次之間的順暢協作。
總結來說，LLMs和GPTs的部署策略應根據具體的網絡環境和業務需求來定制。每種部署策略都有其獨特的優勢和挑戰，網絡提供者需要權衡這些因素，選擇最適合自己的部署方案。
案例研究：網絡入侵檢測
研究團隊提出了一個具體的案例研究，展示了如何利用LLMs生成的合成數據來增強網絡入侵檢測的能力。這一案例不僅證明了LLMs在實際應用中的潛力，也為網絡安全領域提供了新的思路。
圖5：使用合成數據進行網絡入侵檢測的準確性和F1分數。
網絡入侵檢測系統（NIDS）是保護網絡安全的重要工具，它通過監控網絡流量來識別潛在的惡意活動。然而，傳統的NIDS面臨著一個重大挑戰：高質量訓練數據的缺乏。在這個案例中，研究人員使用LLMs來生成額外的訓練數據，以提高NIDS的檢測準確性。
研究人員首先使用GPT-3.5來生成網絡流量數據。他們為GPT-3.5提供了一個詳細的任務描述，包括網絡流量的特征和惡意行為的模式。然后，GPT-3.5根據這些信息生成了一系列合成的網絡流量數據，這些數據既包括正常流量也包括惡意流量。
生成的合成數據被用來訓練一個卷積神經網絡（CNN），這是一種常用于圖像和聲音識別的深度學習模型。CNN被訓練用來識別網絡流量中的異常模式，從而檢測入侵行為。在訓練過程中，研究人員不斷調整模型參數，以達到最佳的性能。
使用合成數據訓練的CNN在入侵檢測任務上表現出了顯著的性能提升。與僅使用真實數據訓練的模型相比，合成數據訓練的模型在準確性和F1分數上都有所提高。這表明LLMs生成的數據能夠有效地增強NIDS的性能，尤其是在數據稀缺的情況下。
這個案例研究證明了LLMs在網絡安全領域的應用潛力。通過生成高質量的合成數據，LLMs能夠幫助解決訓練數據不足的問題，從而提高NIDS的檢測能力。這一發現為網絡安全研究和實踐提供了新的方向，同時也展示了閉環生成式AI在實際應用中的價值。
LLMs和GPTs在下一代網絡中的應用
隨著大型語言模型（LLMs）和生成式預訓練變換器（GPTs）的興起，我們有機會將這些先進的人工智能技術集成到下一代網絡中，以提升網絡管理、優化和安全性的水平。
網絡管理是確保網絡資源有效分配和使用的關鍵活動。LLMs和GPTs在此領域的應用，可以通過其強大的語義理解和生成能力，自動化處理復雜的網絡配置和維護任務。例如，LLMs可以用于解析和轉換網絡策略描述，將高層次的業務需求轉化為網絡配置的具體指令。GPTs則可以通過生成模擬網絡攻擊場景，幫助網絡管理員訓練和評估網絡的響應策略。
網絡優化涉及到提升網絡性能和效率的各種技術和策略。LLMs和GPTs可以通過預測網絡流量模式、自動生成優化算法或調整網絡參數來實現這一目標。它們能夠分析大量的歷史數據，識別潛在的性能瓶頸，并提出改進措施。此外，這些模型還可以輔助設計更加高效的數據路由和負載均衡策略。
LLMs和GPTs在提高網絡安全性方面的應用，主要體現在它們能夠輔助識別和防御網絡威脅。LLMs可以用于分析網絡安全事件的描述，幫助理解攻擊的模式和動機。GPTs則可以模擬攻擊者的行為，生成測試網絡安全防御能力的仿真攻擊。這些模型還能夠協助開發更精準的入侵檢測系統，通過持續學習和適應新的威脅模式來提升防御能力。
LLMs和GPTs的集成不僅能夠提升網絡的管理、優化和安全性，還能夠推動網絡自動化和智能化的發展。通過自動化的網絡管理，可以減少人為錯誤，提高網絡運營的效率和可靠性。智能化的網絡優化能夠實時響應網絡狀態的變化，動態調整資源分配。而在網絡安全性方面，智能化的防御機制能夠快速識別并響應新的威脅，保護網絡免受攻擊。
未來展望
隨著計算能力的提升和算法的優化，LLMs和GPTs將變得更加高效和精準。它們將能夠更快地處理大量數據，提供更加實時的網絡服務。此外，隨著模型訓練方法的進步，LLMs和GPTs將能夠更好地理解復雜的網絡環境和用戶需求，從而提供更加個性化的服務。
LLMs和GPTs將在網絡安全領域發揮更大的作用。它們將被用來預測和防御網絡攻擊，提高網絡的抵抗力和恢復力。隨著網絡攻擊手段的不斷進化，LLMs和GPTs的這一應用將變得尤為重要。LLMs和GPTs將促進網絡自動化和智能化的進程。它們將被集成到網絡的各個層面，從基礎設施建設到服務提供，都將體現出AI的影響力。
未來的研究將集中在如何提高LLMs和GPTs的效率和效果。研究人員將探索新的模型架構和訓練方法，以適應不斷增長的數據量和日益復雜的網絡環境。此外，研究將致力于解決LLMs和GPTs在實際部署中遇到的隱私和安全問題。
在未來LLMs和GPTs的應用場景將更加多樣化。在智能家居領域，它們可以幫助管理家庭網絡，提供個性化的娛樂和服務。在工業互聯網領域，它們可以優化生產流程，提高效率和安全性。在交通管理領域，它們可以協助規劃路線，減少擁堵。在醫療健康領域，它們可以通過分析患者數據來輔助診斷和治療。
LLMs和GPTs在未來網絡技術中的發展前景廣闊。它們將為網絡技術帶來革命性的變化，為用戶提供更加安全、便捷和智能的網絡服務。隨著技術的不斷進步，我們有理由相信，LLMs和GPTs將在未來的網絡世界中扮演越來越重要的角色。
