摘要

本綜述批判性地區分了人工智能代理和代理性人工智能，提供了一個結構化的概念分類、應用映射，并分析了機會與挑戰，以闡明它們不同的設計理念和能力。我們首先概述了搜索策略和基本定義，將人工智能代理描述為由大型語言模型和大型知識圖譜驅動和啟用的模塊化系統，用于特定任務的自動化。生成式人工智能被定位為提供基礎的前驅，人工智能代理則通過工具集成、提示工程和推理增強而發展。然后我們描述了代理性人工智能系統，與人工智能代理相比，它代表了一種由多代理協作、動態任務分解、持久記憶和協調自主性所標志的范式轉變。通過對架構演變、操作機制、交互風格和自主水平的時間順序評估，我們進行了人工智能代理和代理性人工智能范式的比較分析。由人工智能代理（如客戶支持、調度和數據總結）啟用的應用程序主動性與研究自動化、機器人協調和醫療決策支持中的代理人工智能部署進行了對比。我們進一步探討了每個范式中的獨特挑戰，包括幻覺、脆弱性、涌現行為和協調失敗，并提出了針對性的解決方案，如反應循環、檢索增強生成（RAG）、自動化協調層和因果建模。本工作的目標是為開發健壯、可擴展且可解釋的人工智能驅動系統提供路線圖。

關鍵詞 - Agent、智能體、人工智能代理、代理人工智能、自主性、推理、上下文感知、多代理系統、概念分類法、視覺語言模型

核心速覽

研究背景

1. 研究問題：這篇文章旨在區分AI代理和代理AI，提供一種結構化的概念分類、應用映射以及分析機會和挑戰，以闡明它們不同的設計理念和能力。
2. 研究難點：該問題的研究難點包括：如何明確AI代理和代理AI的設計哲學和能力差異；如何在復雜動態環境中實現多代理系統的協調和自主性；如何應對AI代理和代理AI的獨特挑戰，如幻覺、脆弱性、涌現行為和協調失敗。
3. 相關工作：早期的人工智能研究主要集中在多代理系統和專家系統上，強調社會行動和分布式智能。Castelfranchi和Ferber等人的工作奠定了社會行動建模的基礎，而早期的對話系統和反應式機器人則展示了基本的社交互動能力。然而，這些系統缺乏自我學習、生成推理和對非結構化環境的適應性。

研究方法

這篇論文提出了一種結構化的多階段方法來捕捉AI代理和代理AI的演變、架構、應用和局限性。具體來說，

1. 基礎理解：首先，建立AI代理的基礎理解，分析其核心定義、設計原則和架構模塊，包括感知、推理和行動選擇。這些組件形成了一個閉環操作循環，通常稱為“理解、思考、行動、學習”。
2. 基礎模型的作用：討論LLMs作為核心推理組件的作用，強調預訓練語言模型如何通過指令微調和強化學習從人類反饋中改進交互、規劃、決策和有限的任務執行能力。LLMs如GPT-4和PaLM在自然語言理解、問答、摘要、對話連貫性和符號推理方面表現出強大的能力。
3. 代理AI的演變：探討從工具增強的單代理系統到協作、數據分布式生態系統的轉變，這種轉變是由系統需要分解目標、分配子任務、協調輸出和適應動態上下文的需求驅動的。代理AI系統由多個專門代理組成，每個代理分配一個特定的子任務，并通過集中式協調器或去中心化協議進行協調。

結果與分析

1. AI代理的應用：AI代理在客戶支持自動化、內部企業搜索、電子郵件過濾和優先級排序、個性化內容推薦和基本數據報告等領域得到了廣泛應用。例如，AI代理可以集成企業的客戶關系管理系統（CRM）和履行API，回答用戶查詢、跟蹤訂單或發起退貨請求。
2. 代理AI的應用：代理AI在多代理研究助理、智能機器人協調、協作醫療決策支持和自適應工作流程自動化等領域得到了廣泛應用。例如，在多代理研究助理中，代理系統可以分配角色，管理依賴關系，并將輸出整合成連貫的草稿或審查摘要。
3. 挑戰與限制：AI代理面臨的主要挑戰包括缺乏因果推理、LLM的繼承限制（如幻覺、淺層推理）、不完全的代理屬性（如自主性、主動性）以及長期規劃和恢復的失敗。代理AI系統面臨的獨特挑戰包括放大因果關系問題、協調瓶頸、涌現行為和可擴展性問題。

總體結論

這篇論文全面評估了AI代理和代理AI系統的演變景觀，提供了一個結構化的分類法，突出了基礎概念、架構演變、應用領域以及關鍵限制和潛在解決方案。AI代理在狹義的工具集成場景中表現良好，而代理AI代表了向分布式、多代理認知的轉變，能夠自主規劃和決策。從反應性任務執行到協調的協作工作流程的轉變標志著智能系統進化的重要里程碑。這些見解為未來開發和部署可信賴、可擴展的代理AI系統提供了路線圖。

論文評價

優點與創新

1. 全面的概念分類：論文提供了一種結構化的概念分類法，清晰地界定了AI代理和代理AI之間的差異，幫助研究人員更好地理解這兩種技術的核心概念。
2. 詳細的架構演化分析：通過對比分析AI代理和代理AI的架構演化，展示了從單一模型到復雜多代理系統的轉變過程。
3. 豐富的應用領域覆蓋：論文詳細探討了AI代理和代理AI在不同應用領域的部署情況，包括客戶服務自動化、內部企業搜索、電子郵件過濾和優先級排序等。
4. 深入的挑戰與解決方案：論文系統地分析了AI代理和代理AI面臨的主要挑戰，并提出了相應的解決方案，如檢索增強生成（RAG）、工具增強推理、記憶架構等。
5. 未來的路線圖：論文提出了一個未來發展的路線圖，預測了AI代理和代理AI在自主性、模塊化智能、多代理協調等方面的進步。

不足與反思

1. 局限性：論文提到，盡管AI代理在某些特定任務中表現出色，但在處理復雜、動態、多步驟和協作場景時仍存在局限性。
2. 代理AI的挑戰：代理AI系統面臨的挑戰包括放大因果問題、協調瓶頸、涌現行為和治理問題，這些都需要進一步的研究來解決。
3. 未來的研究方向：論文指出，未來的研究需要解決多代理系統中的因果發現、推理集成和基準測試等問題，以確保代理AI系統的可靠性和可擴展性。

關鍵問題及回答

問題1：AI代理和代理AI在設計哲學和能力上有何根本區別？

1. 任務范圍：AI代理通常是單體的，專注于執行特定的、定義明確的任務。它們通過集成LLM和 LIMs來增強功能，適用于工具集成場景。而代理AI則是多體的，能夠分解復雜的目標，分配子任務，并通過協作實現共同目標。
2. 自主性和協作：AI代理在特定任務內具有高度自主性，但通常獨立操作，缺乏跨任務的協作能力。代理AI則具有廣泛的自主性，能夠在多代理系統中進行動態的角色分配和任務協調。
3. 學習和適應能力：AI代理主要通過規則或監督學習進行適應，通常局限于單一領域。代理AI則具備更強的學習和適應能力，能夠通過多步驟規劃和元學習在不同的任務和環境中進行動態調整。
4. 應用場景：AI代理適用于客戶支持、內部搜索、電子郵件管理等結構化任務。代理AI則更適合于復雜的研究助理、機器人協調、醫療決策支持等需要多代理協作的場景。

問題2：代理AI系統在應對復雜動態環境中的多代理協作時面臨哪些獨特挑戰？

1. 放大因果關系問題：在多代理系統中，一個代理的行為可能會影響其他代理的行為，導致復雜的因果關系。代理AI需要有效的因果建模和干預機制來協調這些關系。
2. 協調瓶頸：多代理系統需要高效的通信和協調機制來確保所有代理能夠協同工作。當前的實現中存在目標對齊和共享上下文的問題，影響了系統的整體性能。
3. 涌現行為：多代理系統中的復雜交互可能導致不可預測的涌現行為，這些行為可能偏離預期目標，甚至產生有害結果。代理AI需要設計機制來檢測和應對這些行為。
4. 可擴展性和調試復雜性：隨著代理數量的增加，系統的可擴展性和調試復雜性也隨之增加。代理AI需要系統化的架構控制和可追溯工具來支持大規模系統的開發和維護。

問題3：論文中提到的潛在解決方案有哪些？這些方案如何克服AI代理和代理AI的挑戰？

1. 檢索增強生成（RAG）：通過將用戶查詢與實時數據結合，生成更準確和上下文相關的響應。這種方法適用于AI代理和代理AI，特別是在需要實時數據集成的場景中。
2. 工具增強推理：使AI代理能夠通過調用外部工具來擴展其功能，從而處理更復雜的任務。這種方法顯著提高了AI代理的實用性和代理AI的自主性。
3. 代理反饋循環（ReAct）：通過迭代推理和行動來提高決策的質量。這種方法特別適用于需要多步驟規劃和動態調整的場景，適用于AI代理和代理AI。
4. 記憶架構：通過持久存儲來保持跨任務的上下文信息，支持長期規劃和任務執行。這種方法有助于解決AI代理的短期記憶問題和代理AI的分布式記憶管理問題。
5. 多代理編排：通過集中式或分布式的協調器來管理多代理系統的生命周期和任務分配。這種方法有助于解決代理AI的系統化和可擴展性問題。

這些解決方案共同構成了克服AI代理和代理AI挑戰的綜合路線圖，旨在提高系統的可靠性、可擴展性和適應性。

本文轉載自???知識圖譜科技???，作者：知識圖譜科技