對大模型應用的能力分級就像給學生打分一樣，能讓我們更清楚它的本事有多大。能力分級能幫我們設定目標，知道AI現在能干什么，未來還要學什么。有了統一的分級方式，大家就能公平比較不同AI的水平，推動技術進步。同時，不同分級的AI適合干不同的活兒，能幫我們找到最合適的幫手。另外，能力分級讓普通人更容易理解AI的能力，避免過度期待或擔心。

大模型的應用主要有兩種常見模式：RAG 和 Agent。選哪種 RAG 架構，得看具體要解決什么問題，確保它適合任務需求。現在，帶有智能體（Agent）功能的 RAG 越來越重要，它和“智能體 x”的概念很像。這個“x”就像是一個萬能工具箱，可以根據不同場景靈活調整，幫我們自動完成任務并做出明智決策，從而提升效率。另外，要想處理復雜的多部分問題，整合不同來源的文檔信息非常關鍵。簡單來說，這些技術都是為了讓人工智能更聰明、更靈活地幫我們解決問題。

1. RAG 回顧

實現一個高效的 RAG（檢索增強生成）系統面臨幾個關鍵挑戰：首先，系統需要能夠準確地找到與用戶問題相關的信息；其次，它必須正確理解用戶的真實意圖；最后，還要能夠利用大型語言模型（LLM）的推理能力來處理復雜的任務。為了提升推理能力，可以采用一種叫做“Agentic”的方法，比如 ReAct，這種方法通過構建一系列的邏輯推理和操作步驟來解決問題。需要注意的是，不同的 LLM 應用場景可能需要不同的解決方案，沒有一種方法能適用于所有情況。

1.1 上下文

上下文指的是對話過程中積累的相關信息，它幫助 AI 更好地理解用戶的需求，并作出恰當、連貫的回應。這些信息包括用戶之前說過的話、當前的任務背景、環境因素，以及其他可能影響對話的外部數據。通過有效地處理上下文，AI 能夠保持對話的一致性和個性化，根據對話的進展調整回答，使整個交流過程更加自然和有意義。

1.2 用戶意圖檢測

很多時候，系統表現不佳是因為沒有抓住用戶問題的核心，或者面對需要多種技能結合的任務時，未能準確區分和應用這些技能。用戶意圖指的是用戶提問背后的真正目的或目標，即他們希望通過問題得到什么或表達什么。準確識別用戶意圖是 AI 系統提供合適回應的關鍵。

2. RAG 的能力分級

根據微軟的研究成果，RAG的能力可以從搜索的復雜程度上分為4個層級。

圖片

2.1 Level 1: 顯式事實查詢

這種查詢是最簡單的形式，用戶直接詢問某個具體的事實，而這個事實在數據中是明確存在的，不需要額外的推理。比如，用戶問“地球的直徑是多少？”這種問題只需要從數據中找到對應的數字即可。RAG 系統的任務就是定位并提取這些直接存在的信息，就像在一本書中快速找到某個特定的句子一樣。

2.2 Level 2: 隱式事實查詢

這種查詢稍微復雜一些，用戶的問題并不是直接指向某個明確的事實，而是需要結合一些背景知識或邏輯推理才能得出答案。比如，用戶問“堪培拉所在國的多數黨是什么？”要回答這個問題，系統需要知道堪培拉是澳大利亞的首都，然后再結合澳大利亞當前的政黨情況來推斷答案。這種查詢可能需要從多個地方提取信息，并進行簡單的邏輯連接。

在這個層次上，RAG 系統開始展現出一定的“智能體”特性，因為它不僅需要檢索信息，還需要進行一些推理和邏輯判斷。

2.3 Level 3: 可解釋的推理查詢

這種查詢不僅要求知道事實，還需要理解事實背后的邏輯和原理，并且能夠提供清晰的解釋。回答這類問題需要結合事實知識和特定領域的規則或準則，而這些規則通常不會在普通的語言模型預訓練中出現。

舉個例子，在財務審計中，一個法律專家可能需要根據合規準則來判斷一家公司的財務報表是否符合標準。這不僅僅是簡單地查找數據，還需要應用專業的規則來分析和解釋。

同樣，在技術支持場景中，系統可能需要按照故障排除的流程來幫助用戶解決問題，確保每一步都符合既定的操作規范，從而提供準確且一致的響應。這種查詢要求系統不僅要有知識，還要有能力應用這些知識來解決實際問題。

2.4 Level 4: 隱式的推理查詢

這種查詢要求 AI 不僅要看到表面的信息，還要深入挖掘數據背后的潛在規律和邏輯。它需要根據上下文和觀察到的模式，推斷出那些沒有直接寫出來的復雜原理。這些隱藏的原理往往涉及深層次的推理和邏輯聯系，很難直接找到或提取。

例如，在 IT 運維中，AI 可以通過分析過去解決類似問題的成功案例，總結出有效的策略。它需要從大量數據中發現規律，而不是簡單地照搬已有的解決方案。

另外，在軟件開發中，AI 可以通過研究過去的調試案例，推斷出高效的問題解決方法。通過整合這些隱含的洞察，AI 能夠提供更精細、更貼近實際經驗的建議，幫助做出更明智的決策。這種查詢體現了 AI 從數據中學習并提煉智慧的能力。

圖片

可解釋和隱藏的基本原理將重點放在了 RAG 系統理解和運用數據背后邏輯的能力上。這些更高層次的任務需要更深入的思考過程，通常需要結合專家知識或從大量非結構化歷史數據中提煉出有價值的見解。

通過前面的例子可以看出，直接查詢明確事實的任務（比如查詢簽證資格需要參考領事館的官方指南，屬于 L3）與需要依賴隱含推理的任務（比如分析公司未來發展的經濟影響，需要結合財務報告和經濟趨勢，屬于 L4）是有明顯區別的。

無論是哪種情況，數據的外部來源都至關重要——可能是官方文件，也可能是專家的分析報告。在這些場景中，提供基本原理不僅能讓回答更加準確，還能將答案與上下文聯系起來，讓用戶不僅知道“是什么”，還能理解“為什么”。這種能力讓 智能體化 RAG 系統的回答更加全面和可信。

3.AI Agent

AI Agent 是一種智能自動化系統，能夠理解和應對復雜問題，解決多方面的挑戰，并完成需要推理、適應和決策的任務。與傳統的自動化工具不同（它們通常依賴固定的規則和預設的腳本），AI Agent 利用機器學習（ML）和自然語言處理（NLP）技術，能夠不斷學習和提升自己。這種能力讓 AI Agent 變得非常靈活，可以應對動態且不可預測的環境，并隨著新信息的出現快速調整策略。

例如，如果一個 AI Agent 的任務是提供客戶支持，它可以從過去的對話中學習，改進自己的回答方式，并自動適應每個客戶的獨特需求。這種既能自主學習又能獨立運作的能力，使 AI Agent 成為復雜環境中的理想選擇，尤其是在需要高度適應性和對上下文深度理解的場景中。

3.1 AI Agents的主要特征

AI Agent對企業來說是個“好幫手”，能簡化工作、提升客服水平、提高團隊效率。它的優勢主要體現在以下幾個方面：

• 靈活應變：AI Agent能根據最新數據調整策略，輕松應對各種復雜多變的場景。
• 任務拆分：將大任務拆成小步驟，一步步解決，還能不斷優化，直到找到最佳方案。
• 理解上下文：AI Agent能“聽懂”對話或任務的背景，即使問題復雜或模糊，也能給出準確回應。
• 人機協作：遇到難題或需要高精度時，AI Agent可以請人類專家幫忙，結合AI的高效和人類的智慧。
• 工具整合：它能連接各種外部工具、數據庫和系統，執行計算或獲取實時數據，功能更強大。

不過，使用AI Agent也需要仔細規劃，比如控制響應時間、確保透明性，以及保證數據質量。只有這樣，才能讓它真正發揮作用。

3.2 AI Agents的演化： 從簡單自動化到復雜自主系統

AI Agent 的發展離不開機器學習和自然語言處理技術的進步，同時也得益于對現實世界復雜場景的適應需求。早期的自動化工具，比如 RPA（機器人流程自動化）和鏈式系統，雖然能夠處理結構化的任務流程，但缺乏應對不可預測情況的靈活性。而隨著 AI Agent 的出現，我們現在擁有了能夠處理模糊輸入、進行多步推理，并根據動態變化的上下文做出決策的智能系統。

傳統的自動化工具依賴于預先設定好的任務步驟，每一步都嚴格按照固定的規則執行。例如，RPA 通過模擬人類與軟件的交互（比如登錄系統、將數據從一個應用復制到另一個應用）來自動化重復性任務。然而，RPA 的局限性在于它的僵化性——一旦工作流程或條件發生變化，就需要重新編程，這使得它在面對動態環境時顯得力不從心。

與傳統的 RPA 和鏈式系統相比，AI Agent 具備完全不同的能力。接下來，從多個維度詳細探討它們之間的區別：

關于Agent 的更多內容，可以參考《AI 驅動的數據分析：Data Agent》、《Agent 應用于提示工程》、《基于大模型（LLM）的Agent 應用開發》和《當你問代理機制的時候？指的是Agent,Proxy,Broker還是Delegate呢？》等文。

4. AI Agent的 5 個自主性能力層級

AI Agent可以分為五個等級的自主性，每一個等級代表獨立行動和處理復雜任務的能力。

圖片

4.1 Level 1: 反應性智能體

反應性智能體是最基礎的 AI Agent 類型。它們的工作原理很簡單：根據“如果發生 X，那么就執行 Y”的規則來響應特定的輸入。這些智能體沒有記憶功能，也無法理解上下文，因此只能處理非常簡單的任務。雖然它們在回答一些常見問題時表現不錯，但面對更復雜或需要靈活應對的請求時，就顯得力不從心了。

主要特點：

• 基于規則運行：只能按照預設的規則做出反應。
• 沒有記憶：無法記住過去的交互或學習新的信息。
• 適用場景：適合處理簡單的客戶服務任務或日常查詢。

舉個例子：一個簡單的客服機器人，可以回答像“你們的營業時間是幾點？”或“我的訂單到哪了？”這樣的常見問題，但如果問題稍微復雜一點，比如“我的訂單為什么延遲了？”，它就很難給出有用的回答了。

4.2 Level 2: 上下文智能體

上下文智能體比反應性智能體更聰明一些，它們能理解基本的語境信息。不像只能簡單回應的智能體，它們可以通過分析環境中的線索做出更合理的決定。雖然它們仍然依賴規則，但能根據用戶的歷史記錄、位置等條件調整回應方式。

主要特點：

• 能利用有限的上下文信息提高回應的準確性。
• 可以根據環境變化調整行為。
• 適合需要結合簡單上下文來提升服務質量的場景。

舉個例子：比如，一個虛擬助手可以根據用戶的位置推薦附近的商店營業時間，或者根據用戶過去的互動記錄提供更個性化的建議。這種智能體能讓服務更貼心、更實用。

4.3 Level 3: 適應性智能體

自適應智能體就像會學習的小助手，它們利用機器學習技術從過去的互動中總結經驗，不斷改進自己的表現。它們能根據用戶的反饋調整行為，非常適合需要靈活應對的場景。這類智能體常用于客服和支持工作，通過分析用戶反饋來提升服務質量。

主要特點：

• 借助機器學習，能夠持續進步。
• 通過分析用戶反饋和行為模式，優化回應方式。
• 非常適合需要靈活適應、依賴數據的任務。

舉個例子：比如，一個客服機器人可以通過分析過去的對話和用戶反饋，更好地理解客戶需求，提供更精準的幫助。

4.4 Level 4: 目標驅動的智能體

目標驅動型智能體就像“有主見的小助手”，它們被設計成能夠獨立完成特定目標，并通過策略性方法解決問題。與只能執行簡單任務或適應環境的智能體不同，它們會評估多種策略，并選擇最有可能達成目標的方式。這讓它們特別適合處理需要多步計劃和執行的復雜任務。

主要特點：

• 獨立運作，能評估不同方法來實現目標。
• 可以給任務排優先級，并根據結果靈活調整策略。
• 非常適合需要戰略規劃和分步執行的復雜任務。

舉個例子：比如，一個銷售助手機器人可以根據客戶的購物記錄，主動推薦商品，甚至建議搭配單品，幫客戶完成一整套服裝搭配，實現他們的購物目標。

4.5 Level 5: 完全自主的適應性智能體

完全自主的適應性智能體就像“超級智能助手”，它們幾乎可以獨立完成復雜任務，幾乎不需要人類干預。它們能理解雜亂無章的數據，靈活應對突發情況，并根據實時反饋調整策略。這種智能體非常適合高風險、快節奏的環境，因為它們的反應速度和準確性都非常出色。

主要特點：

• 能夠自我學習并實時調整行為。
• 主動根據用戶行為和上下文采取行動。
• 在高度變化的環境中也能高效工作，幾乎不需要人類監督。

舉個例子：比如，一個醫療AI智能體可以實時監測患者的健康數據，發現潛在的健康風險，并根據每個患者的病史和風險因素，給出預防性護理建議或進一步檢查的方案。

圖片

AI Agent 標志著商業技術的一次重大飛躍，它能夠自動化處理那些復雜且高價值的任務，而這些任務在過去是無法交給機器完成的。隨著機器學習、自然語言處理和計算能力的不斷進步，AI Agent 將變得更加智能和自主，能夠更好地理解上下文、學習新知識并做出明智的決策。

采用 AI Agent 的企業將從中獲得顯著的好處，比如提高工作效率、降低運營成本以及提升客戶滿意度。隨著 AI Agent 能力的不斷增強，我們可以預見它們將在戰略決策、客戶互動以及跨行業的流程優化中發揮越來越重要的作用，成為推動企業發展的核心力量。

5. 小結

將大模型應用的能力進行分級，不僅有助于推動技術發展，還能更好地匹配實際應用場景，同時也讓公眾更容易理解其價值。

根據微軟的研究，RAG 的能力可以按照搜索的復雜程度分為四個層次：顯式事實查詢、隱式事實查詢、可解釋的推理查詢和隱式的推理查詢。無論處于哪個層次，外部數據來源都起著關鍵作用。

而根據 AI Agent 的自主性，可以將其分為五個層次：反應性智能體、上下文智能體、適應性智能體、目標驅動的智能體和完全自主的適應性智能體。未來的 AI 將是一個由多個相互關聯、高度自主的智能體組成的生態系統。這些智能體將支持和增強人類的能力，提供更加個性化、高效且靈活的全新解決方案。

【參考資料】

• Retrieval Augmented Generation (RAG) and Beyond: A Comprehensive Survey on How to Make your LLMs use External Data More Wisely，https://arxiv.org/pdf/2409.14924
• https://blog.kore.ai/cobus-greyling/five-levels-of-ai-agents
• https://blog.spheron.network/the-5-levels-of-ai-agents-a-comprehensive-guide-to-autonomous-ai-systems