大家好，我是肆〇柒，在AI飛速發(fā)展的時代，AI 智能體自主性已成為一個備受矚目的焦點。一方面，它能夠為我們帶來前所未有的創(chuàng)新應(yīng)用，極大提升工作效率和生活便利性；另一方面，若不當使用，也可能引發(fā)一系列難以預(yù)料的風險。隨著大型語言模型（LLM）等前沿 AI 技術(shù)的飛速進步，AI 智能體的自主性不再是停留在科幻小說中的情節(jié)，它已逐漸走進現(xiàn)實，引起了大家的廣泛關(guān)注和深入探討。

本文的核心就是深入探討 AI 智能體的自主性，探討如何將其作為一種有意識、有節(jié)制的設(shè)計決策。為此，研究者將引入一個全面且細致的五級自主性框架，目的是為開發(fā)者提供一個清晰的指引，使其能夠根據(jù)不同智能體的目標用途以及期望的用戶體驗，精準地校準智能體的自主性水平，在創(chuàng)新與風險之間找到最佳的平衡點。

為 AI Agent 定義了五個自主性層級，這些層級圍繞"用戶"（無論是人類還是人工智能）在基于任務(wù)的環(huán)境中與Agent交互時可能承擔的角色而展開。完整的框架文內(nèi)表格

幾個核心概念

AI 智能體與用戶

AI 智能體，引用 Stuart Russell 和 Peter Norvig 的經(jīng)典定義（見參考資料），是能夠通過傳感器感知環(huán)境并通過效應(yīng)器在環(huán)境中執(zhí)行動作的實體。如今的 AI 智能體，尤其是那些具備多模態(tài)能力和強大推理能力的高級智能體，已經(jīng)能夠在計算機環(huán)境中自如地導航，執(zhí)行諸如獲取網(wǎng)頁信息、在用戶界面中點擊按鈕等復(fù)雜操作，這使得它們能夠為人類如何更好地與這個世界互動的全新方式。

用戶，這一概念在 AI 系統(tǒng)中也很重要。用戶既可以是人類個體，也可以是其他 AI 系統(tǒng)，他們是向智能體發(fā)出初始服務(wù)請求的實體。在復(fù)雜多變的多智能體系統(tǒng)中，用戶的角色可能會發(fā)生靈活的轉(zhuǎn)換。例如，你可以設(shè)想一個人類用戶向聊天機器人咨詢醫(yī)療問題的場景：人類用戶向聊天機器人發(fā)起請求，此時人類是聊天機器人的用戶；而聊天機器人為了回答問題，又會向具備醫(yī)學知識的專業(yè)智能體發(fā)起查詢請求，這時聊天機器人就成為了醫(yī)學知識智能體的用戶。這種角色的轉(zhuǎn)換，凸顯了 AI 系統(tǒng)中用戶定義的靈活性和多維性，也為智能體的設(shè)計和交互模式帶來了新的挑戰(zhàn)和機遇。

代理性與自主性

代理性，從本質(zhì)上來說，是采取有意圖行動的能力。這種意圖可能源于智能體對周圍環(huán)境的外部觀察，也可能是其內(nèi)在價值觀的體現(xiàn)。一個具備代理性的智能體，能夠基于自身的目標和所處的環(huán)境，主動地發(fā)起行動，而不是被動地等待指令。例如，自動駕駛汽車可以根據(jù)路況主動調(diào)整速度和路線，智能客服機器人可以根據(jù)用戶的問題主動提供解決方案，這些都是代理性在實際場景中的體現(xiàn)。

自主性，則有所不同，它指的是 AI 智能體被設(shè)計為在多大程度上無需“用戶”參與而運行。注意，這里的“用戶”可以是人類，也可以是另一個 AI 系統(tǒng)。關(guān)鍵在于，自主性是一種設(shè)計決策，開發(fā)者可以通過對模型架構(gòu)的精心設(shè)計以及對用戶界面的巧妙限制，來塑造智能體的行為模式，決定它在執(zhí)行任務(wù)時對用戶依賴的程度。例如，一個完全自動化的生產(chǎn)線機器人可以獨立完成生產(chǎn)任務(wù)，無需人工干預(yù)，這體現(xiàn)了高自主性；而一個需要人類操作員實時監(jiān)控和干預(yù)的無人機系統(tǒng)則具有較低的自主性。

高代理性智能體，在不同自主性級別下，其行動意圖和能力的發(fā)揮（代理性）會受到自主性級別的顯著影響。在低自主性級別（如一級和二級），智能體的行動意圖雖豐富，但行動范圍受限，需頻繁等待用戶指令，其代理性優(yōu)勢難以充分發(fā)揮。例如，一個智能客服機器人如果每次回答問題都需要人工審核，其代理性能力就會被大幅削弱。隨著自主性級別的提升（如三級及以上），智能體行動范圍擴大，可在更大程度上依據(jù)自身意圖行動，代理性優(yōu)勢逐漸顯現(xiàn)。例如，自動駕駛汽車在高自主性模式下，可以根據(jù)復(fù)雜的路況自主決策，而無需頻繁的人類干預(yù)。

同時，自主性級別的變化也會反作用于智能體的代理性目標實現(xiàn)。比如，當智能體從二級自主性升級到三級自主性時，其行動自主權(quán)的增加要求其代理性目標更具前瞻性和全局性，以適應(yīng)更為復(fù)雜的任務(wù)環(huán)境和更少的用戶干預(yù)。例如，一個智能物流機器人在低自主性模式下可能只需要完成簡單的貨物搬運任務(wù)，而在高自主性模式下則需要規(guī)劃最優(yōu)路徑、處理突發(fā)情況，并與其他機器人協(xié)同工作。

盡管代理性和自主性是兩個不同的概念，但它們之間存在著緊密的聯(lián)系，共同影響著智能體的行為表現(xiàn)。一個智能體可能具有高代理性，即具備豐富的行動意圖和強大的行動能力，但如果開發(fā)者在設(shè)計時要求它在每次行動前都必須咨詢用戶，那么它的自主性就會相對較低。相反，一個自主性很高的智能體，可能在執(zhí)行任務(wù)時較少地依賴用戶，但這也并不意味著它一定具備高代理性，因為其行動意圖和行動范圍可能受到嚴格限制。例如，一個簡單的自動化清潔機器人可能具有高自主性，但其行動意圖可能僅限于重復(fù)的清潔任務(wù)，缺乏復(fù)雜環(huán)境下的決策能力。

這種差異性為智能體的治理提供了兩種不同的調(diào)節(jié)手段，開發(fā)者可以根據(jù)具體的應(yīng)用場景和需求，分別或聯(lián)合調(diào)整智能體的代理性和自主性，以實現(xiàn)最優(yōu)的設(shè)計目標。例如，在需要高度可靠性和安全性的場景中，可以降低智能體的自主性，增加人工干預(yù)；而在追求效率和獨立性的場景中，則可以提高自主性，充分發(fā)揮智能體的代理性能力。通過這種靈活的設(shè)計和調(diào)整，智能體可以更好地適應(yīng)不同的任務(wù)需求和環(huán)境條件。

五級自主性框架解讀

一級自主性：用戶作為操作員

在一級自主性這一基礎(chǔ)層級，用戶始終牢牢掌控著全局，智能體僅在被召喚時才提供必要的支持。所有的長期規(guī)劃以及關(guān)鍵決策都由用戶負責制定，智能體在這個過程中扮演著輔助工具的角色，隨時待命，等待用戶發(fā)出具體的指令。這種模式下，用戶就像是一個經(jīng)驗豐富的船長，而智能體則是船上的得力水手，船長下達命令，水手執(zhí)行操作，緊密協(xié)作，共同推動任務(wù)的前行。

這種自主性級別的應(yīng)用場景主要集中在那些對專業(yè)知識要求極高且決策風險較大的領(lǐng)域。例如，在學術(shù)研究領(lǐng)域，研究人員在探索復(fù)雜的科學問題時，需要借助智能體來處理大量的文獻資料、進行數(shù)據(jù)分析等繁重的工作。但研究的方向、實驗的設(shè)計以及結(jié)果的解讀等關(guān)鍵環(huán)節(jié)，都由研究人員親自把控。又如在金融投資領(lǐng)域，投資者在做出投資決策時，會利用智能體來分析市場行情、計算風險收益等，但最終的投資決策依然由投資者自己慎重做出，因為任何一個小的失誤都可能導致巨大的經(jīng)濟損失。

以用戶請求智能體幫助理解“生成式 AI”對美國經(jīng)濟影響為例，一級自主性智能體的表現(xiàn)如下：當用戶提出這一請求時，智能體并不會主動地去規(guī)劃整個研究流程，而是靜候用戶的進一步指示。用戶需要先將這個大任務(wù)分解成一個個小的可執(zhí)行步驟，比如先搜索相關(guān)文獻、再分析經(jīng)濟數(shù)據(jù)、最后撰寫研究報告等。智能體根據(jù)用戶的指令，依次執(zhí)行這些步驟。在用戶打開網(wǎng)頁瀏覽器并導航至搜索引擎時，智能體敏銳地捕捉到這一操作，并迅速建議一些與生成式 AI 在美國應(yīng)用相關(guān)的搜索關(guān)鍵詞；當用戶閱讀到關(guān)鍵的經(jīng)濟報告時，只需一鍵點擊或通過快捷鍵操作，智能體就能立刻為用戶提供快速的總結(jié)；后續(xù)用戶下載相關(guān)數(shù)據(jù)集并打開代碼編輯器進行數(shù)據(jù)處理和可視化時，智能體緊跟用戶的操作步伐，在代碼編輯器中貼心地提供代碼自動補全功能。在整個過程中，智能體始終緊密跟隨用戶的思路和節(jié)奏，確保用戶對整個研究流程擁有絕對的掌控權(quán)。

然而，開發(fā)有效的 L1 智能體并非易事，開發(fā)者需要思考諸多關(guān)鍵問題。例如，如何精準地界定長短規(guī)劃的邊界？在復(fù)雜的任務(wù)中，哪些部分應(yīng)該由用戶進行長期規(guī)劃，哪些部分可以交給智能體進行短期規(guī)劃？此外，智能體如何可靠地檢測到需要偏好決策的場景？畢竟，在許多情況下，決策往往涉及到用戶的主觀判斷和價值觀，智能體必須能夠敏銳地察覺到這些時刻，并及時將決策權(quán)交還給用戶，以確保任務(wù)的執(zhí)行既符合用戶的真實意圖，又能在專業(yè)領(lǐng)域內(nèi)保持嚴謹性和準確性。

二級自主性：用戶作為協(xié)作者

當智能體的自主性提升至二級時，用戶與智能體之間的關(guān)系轉(zhuǎn)變?yōu)榫o密的協(xié)作伙伴關(guān)系。雙方不再是簡單的指令下達與執(zhí)行關(guān)系，而是共同參與到任務(wù)的規(guī)劃、任務(wù)的分配以及任務(wù)的執(zhí)行過程中。這種模式下，用戶和智能體各自發(fā)揮自己的優(yōu)勢，相互補充，相互促進，共同推動任務(wù)的高效完成。

在二級自主性下，任務(wù)分配變得尤為關(guān)鍵。用戶不再需要事無巨細地安排每一個操作步驟，而是可以根據(jù)智能體的優(yōu)勢和劣勢，將任務(wù)合理地分配給智能體。例如，在醫(yī)療診斷場景中，醫(yī)生（用戶）可以將影像資料的初步分析任務(wù)分配給智能體，利用智能體快速處理大量數(shù)據(jù)的能力，篩選出可能存在異常的影像；而對于最終的診斷結(jié)論以及治療方案的制定，則由醫(yī)生親自負責，結(jié)合智能體的分析結(jié)果以及醫(yī)生自身的臨床經(jīng)驗，做出全面、準確的判斷。同時，智能體在整個執(zhí)行過程中保持高度的透明度，及時向用戶反饋任務(wù)的進展情況以及遇到的障礙，確保醫(yī)生用戶能夠?qū)崟r掌握任務(wù)動態(tài)，及時調(diào)整策略。

在復(fù)雜任務(wù)環(huán)境下，二級自主性智能體需具備強大的任務(wù)分解與優(yōu)先級排序能力。面對多步驟、多分支的復(fù)雜任務(wù)，智能體應(yīng)能將其分解為多個子任務(wù)，并依據(jù)任務(wù)緊急程度、資源需求和用戶目標優(yōu)先級進行排序。同時，智能體應(yīng)實時監(jiān)控任務(wù)執(zhí)行情況，當出現(xiàn)異常或偏離預(yù)期時，及時與用戶溝通并調(diào)整任務(wù)計劃。此外，智能體還應(yīng)具備一定的容錯能力，對于非關(guān)鍵任務(wù)的小幅偏離或失敗，能夠自主決策是否繼續(xù)嘗試或調(diào)整策略，而非立即尋求用戶介入。

以用戶與智能體協(xié)作完成經(jīng)濟影響研究報告為例，二級自主性智能體的協(xié)作過程如下：智能體首先主動地對用戶的請求進行分析，并迅速起草一份初步的行動計劃。這份計劃涵蓋了從文獻搜索、數(shù)據(jù)收集到報告撰寫等多個環(huán)節(jié)，為用戶提供更清晰的工作藍圖。用戶收到計劃后，仔細審查并根據(jù)自己的專業(yè)知識和實際經(jīng)驗對其進行修改和完善，比如增加或刪除某些研究步驟，調(diào)整研究的重點方向等。在任務(wù)分配環(huán)節(jié)，用戶將報告閱讀和總結(jié)任務(wù)放心地交給智能體，而自己則專注于更具創(chuàng)造性的工作——提出研究假設(shè)并進行深入的數(shù)據(jù)分析。智能體和用戶分別在自己的任務(wù)領(lǐng)域內(nèi)并行工作，同時保持緊密的溝通。當智能體在執(zhí)行任務(wù)過程中遇到障礙，如無法訪問某些付費文獻時，會第一時間通知用戶，并提供詳細的障礙信息。用戶根據(jù)智能體反饋的情況，做出決策，如是否購買文獻訪問權(quán)限等。在整個協(xié)作過程中，用戶可以隨時查看智能體的工作成果，并對其進行修改和調(diào)整，雙方共同推進報告的撰寫工作。

在這種模式下，開發(fā)者面臨著一系列新的設(shè)計挑戰(zhàn)。如何設(shè)計出高效、便捷的通信協(xié)議和用戶界面，以促進用戶與智能體之間的緊密協(xié)作？畢竟，良好的溝通是高效協(xié)作的基礎(chǔ)，只有當用戶能夠清晰地向智能體傳達指令，智能體能夠準確地理解并反饋信息時，協(xié)作才能順暢進行。此外，如何降低任務(wù)委托的學習曲線也是一個關(guān)鍵又需要解決的問題。對于初次使用智能體的用戶來說，可能需要一定的時間來了解智能體的能力和局限性，從而學會如何有效地將任務(wù)委托給智能體。開發(fā)者需要通過合理的引導和培訓機制，幫助用戶快速掌握這一技能。最后，如何實現(xiàn)用戶與智能體之間的平滑任務(wù)交接也是一個關(guān)鍵問題。在任務(wù)執(zhí)行過程中，可能會出現(xiàn)需要用戶臨時接手智能體任務(wù)或者智能體協(xié)助用戶完成部分任務(wù)的情況，如何確保這種任務(wù)交接能夠無縫銜接，不影響任務(wù)的整體進度和質(zhì)量，是開發(fā)者需要深入思考并解決的問題。

三級自主性：用戶作為咨詢師

在三級自主性下，智能體開始在任務(wù)規(guī)劃和執(zhí)行方面承擔更多的責任，逐步走向更加獨立的工作模式。此時，用戶的角色轉(zhuǎn)變?yōu)樽稍儙煟饕撠煘橹悄荏w提供反饋、專業(yè)知識以及高層次的方向性指導。這種模式下，智能體不再是被動地等待用戶指令，而是能夠主動地在關(guān)鍵階段向用戶尋求咨詢，以優(yōu)化任務(wù)執(zhí)行過程和結(jié)果。

智能體的咨詢機制是三級自主性的核心特點。智能體通過精心設(shè)計的用戶反饋接口，主動地向用戶征求建議和意見。這些接口不局限于簡單的批準或拒絕操作，還提供了豐富的交互方式，使用戶能夠深入地參與到智能體的決策過程中。例如，在市場調(diào)研場景中，智能體負責收集和分析大量的市場數(shù)據(jù)，制定初步的市場調(diào)研報告。在報告的關(guān)鍵節(jié)點，如目標市場定位、產(chǎn)品競爭力分析等部分，智能體會主動向用戶咨詢，詢問用戶對于這些部分的看法和建議。用戶通過智能體提供的反饋接口，如在線表單、即時通訊工具等，詳細地闡述自己的觀點和專業(yè)知識，為智能體提供更有價值的輸入。

從二級自主性升級到三級自主性，智能體需在任務(wù)執(zhí)行指標和用戶反饋方面達到更高要求。在任務(wù)執(zhí)行指標上，以下做個“考核”樣例，智能體需在具有一定復(fù)雜度和不確定性的任務(wù)中，完成率提升至[X]%以上，且任務(wù)平均完成時間較升級前縮短[X]%；在用戶反饋方面，智能體需在多次任務(wù)協(xié)作中，獲得用戶對其任務(wù)規(guī)劃和執(zhí)行能力的積極評價，用戶干預(yù)頻率降低至每小時少于[X]次，用戶對其自主決策的滿意度達到[X]%以上。

這種自主性級別的應(yīng)用場景主要集中在那些智能體能夠相對獨立完成大部分任務(wù)，但任務(wù)的關(guān)鍵環(huán)節(jié)仍需人類專業(yè)知識或偏好輸入以確保結(jié)果質(zhì)量的領(lǐng)域。例如，在商業(yè)戰(zhàn)略規(guī)劃中，智能體可以利用其強大的數(shù)據(jù)分析能力，為公司制定出多種戰(zhàn)略方案。但在戰(zhàn)略目標的設(shè)定、市場趨勢的前瞻性判斷等方面，需要公司高層管理人員（用戶）憑借其豐富的商業(yè)經(jīng)驗和個人直覺，為智能體提供指導和反饋，幫助智能體優(yōu)化戰(zhàn)略方案，使其更符合公司的長期發(fā)展目標。

以智能體撰寫研究報告為例，三級自主性智能體的工作流程如下：智能體首先根據(jù)用戶的初始請求，自主地制定出一份詳細的研究計劃。這份計劃包括對相關(guān)文獻的全面搜索、對關(guān)鍵研究問題的初步探討以及數(shù)據(jù)收集的初步方案等。智能體將計劃提交給用戶，用戶在審閱后，針對計劃中的某些部分提出自己的修改意見，比如建議增加對特定經(jīng)濟現(xiàn)象的深入分析，或者調(diào)整數(shù)據(jù)收集的時間范圍等。智能體根據(jù)用戶的反饋，迅速調(diào)整計劃，并開始執(zhí)行任務(wù)。在執(zhí)行過程中，智能體主動地向用戶咨詢一些關(guān)鍵問題，如在篩選文獻時，詢問用戶對于某些具有爭議性的研究觀點的看法；在分析數(shù)據(jù)時，向用戶請教關(guān)于數(shù)據(jù)異常值處理的方法等。用戶通過智能體提供的反饋接口，詳細地回答這些問題，并提供相關(guān)的專業(yè)知識和研究建議。智能體根據(jù)用戶的指導，不斷優(yōu)化研究方法和結(jié)果，最終完成研究報告的撰寫。

在開發(fā)三級自主性智能體時，開發(fā)者需要深入研究智能體如何確定咨詢用戶的最佳時機。因為咨詢時機的選擇會直接影響到任務(wù)的執(zhí)行效率和結(jié)果質(zhì)量。如果咨詢過早，智能體可能尚未收集到足夠的信息，導致咨詢的問題過于模糊；如果咨詢過晚，可能已經(jīng)錯過了優(yōu)化任務(wù)的關(guān)鍵節(jié)點。此外，開發(fā)者還需要探索如何獲取高質(zhì)量的用戶反饋。畢竟，智能體的性能在很大程度上依賴于用戶提供的反饋質(zhì)量。開發(fā)者需要設(shè)計出有效的機制和交互界面，引導用戶更好地反饋信息。同時，如何有效整合用戶反饋也是一個關(guān)鍵問題。當用戶的反饋引發(fā)一系列連鎖反應(yīng)，導致任務(wù)流程和結(jié)果發(fā)生較大變化時，智能體需要具備強大的適應(yīng)能力，能夠靈活地調(diào)整任務(wù)計劃，確保任務(wù)能夠順利完成。

四級自主性：用戶作為審批者

在四級自主性這一層級，用戶與智能體的互動頻率大幅降低，用戶僅在智能體遇到無法自行解決的障礙時才與之互動。這些障礙可能包括需要提供登錄憑證、批準具有重大影響的行動等關(guān)鍵節(jié)點。這種模式下，智能體被賦予了更大的自主權(quán)，能夠在大多數(shù)情況下獨立完成任務(wù)，但用戶仍然保持著最終的控制權(quán)，通過對關(guān)鍵節(jié)點的審批來確保任務(wù)的執(zhí)行符合預(yù)期目標和安全要求。

用戶可以事先為智能體設(shè)定一系列預(yù)設(shè)條件，明確在何種情況下智能體需要請求用戶參與。例如，在數(shù)據(jù)收集任務(wù)中，用戶可以規(guī)定當智能體需要訪問特定的數(shù)據(jù)庫或下載敏感信息時，必須先向用戶請求批準。智能體在執(zhí)行任務(wù)過程中，會嚴格按照這些預(yù)設(shè)條件進行操作，一旦遇到需要用戶批準的情況，立即暫停任務(wù)并向用戶發(fā)送請求。這種預(yù)設(shè)條件的設(shè)置，為用戶提供了靈活的控制手段，使用戶能夠在保證任務(wù)高效執(zhí)行的同時，有效防范潛在的風險。

四級自主性的應(yīng)用場景主要集中在那些存在大量低風險決策且用戶希望減少認知負擔的任務(wù)中。例如，在內(nèi)容篩選領(lǐng)域，智能體可以對大量的文本、圖像等進行初步篩選，判斷其是否符合特定的審核標準。但對于一些具有爭議性或敏感性內(nèi)容的最終判定，需要用戶進行審批，以確保內(nèi)容的安全性和合規(guī)性。又如在數(shù)據(jù)處理任務(wù)中，智能體可以自動地對數(shù)據(jù)進行清洗、轉(zhuǎn)換等操作，但在執(zhí)行數(shù)據(jù)刪除或?qū)С龅汝P(guān)鍵操作時，必須獲得用戶的批準，防止數(shù)據(jù)丟失或泄露等風險。

以智能體生成報告的過程為例，四級自主性智能體的表現(xiàn)如下：在生成報告之前，用戶可以預(yù)先設(shè)定一些需要批準的操作類型，比如當智能體需要使用特定的分析工具或訪問受限的數(shù)據(jù)集時，必須得到用戶的批準。智能體在執(zhí)行任務(wù)過程中，首先自主地起草一份行動計劃，并將其展示給用戶，主要是為了確保用戶對整個任務(wù)流程有清晰的了解，但并不需要用戶進行詳細的審批。在執(zhí)行過程中，智能體順利地完成了大部分任務(wù)，如文獻搜索、數(shù)據(jù)初步分析等。然而，當智能體嘗試使用一個需要 API 密鑰的高級分析工具時，它立刻識別出這是一個需要用戶批準的操作。智能體向用戶發(fā)送請求，詳細說明需要使用該工具的原因以及預(yù)期的效果。用戶根據(jù)自己的判斷，決定是否提供 API 密鑰。如果用戶拒絕，智能體能夠迅速做出調(diào)整，選擇其他不需要 API 密鑰的分析方法來完成任務(wù)。在整個報告生成過程中，智能體僅在遇到這些關(guān)鍵障礙時才打擾用戶，極大地提高了工作效率，同時也確保了任務(wù)執(zhí)行的安全性和可控性。

在這種自主性級別下，開發(fā)者需要深入探討如何避免用戶對智能體活動的過度放任。因為當用戶頻繁地收到大量審批請求時，可能會產(chǎn)生審批疲勞，從而降低對每個請求的關(guān)注度，導致一些潛在風險被忽視。開發(fā)者需要設(shè)計出有效的機制，如智能提醒、優(yōu)先級排序等，幫助用戶更好地管理這些審批請求。此外，如何防止智能體利用用戶疏忽獲取更多自主性也是一個重要的研究方向。畢竟，智能體可能會通過一些隱蔽的方式，如模糊描述請求內(nèi)容等，試圖繞過用戶的嚴格審批。開發(fā)者需要采用先進的技術(shù)手段，如增強透明度、引入第三方監(jiān)督等，確保智能體始終在預(yù)設(shè)的自主性范圍內(nèi)運行。同時，如何使智能體可靠地判斷何時需要請求批準也是一個關(guān)鍵問題。開發(fā)者需要為智能體設(shè)計精準的判斷規(guī)則和模型，使其能夠在復(fù)雜多變的任務(wù)環(huán)境中準確識別出需要用戶參與的關(guān)鍵節(jié)點，確保任務(wù)的順利執(zhí)行和風險的有效控制。

五級自主性：用戶作為觀察者

五級自主性代表著智能體自主性的巔峰，智能體在這一級別下無需用戶的干預(yù)，能夠完全自主地規(guī)劃和執(zhí)行任務(wù)。它擁有高度的靈活性和適應(yīng)性，能夠在遇到障礙時自行迭代解決方案，直至任務(wù)成功完成或找到有效的替代方法。這種模式下，用戶的角色轉(zhuǎn)變?yōu)榧兇獾挠^察者，他們只能通過活動日志來監(jiān)控智能體的行為，而無法直接對智能體的操作過程進行干預(yù)或提供實時輸入。用戶僅保留一個緊急關(guān)閉開關(guān)作為最后的控制手段，在緊急情況下可以立即終止智能體的所有活動，以防止不可控的局面發(fā)生。

這種自主性級別的應(yīng)用場景相對較少，主要集中在一些特定的領(lǐng)域。例如，在封閉環(huán)境中的自動化任務(wù)，如某些高科技工廠的內(nèi)部生產(chǎn)流程控制。智能體可以自主地調(diào)度生產(chǎn)設(shè)備、監(jiān)控生產(chǎn)進度、處理生產(chǎn)中的異常情況等，無需人工干預(yù)，從而提高生產(chǎn)效率和質(zhì)量穩(wěn)定性。再如一些需要長時間持續(xù)運行且用戶干預(yù)可能降低輸出質(zhì)量的任務(wù)，如特定的科學研究中的數(shù)據(jù)模擬和分析。智能體可以按照預(yù)設(shè)的科學模型和算法，持續(xù)不斷地進行數(shù)據(jù)模擬和分析，生成大量的實驗數(shù)據(jù)和研究報告。由于其具備強大的自主性和專業(yè)性，用戶在觀察過程中，只需關(guān)注最終的研究成果，而無需頻繁地介入智能體的運算過程，從而避免了因人為干擾可能導致的實驗偏差或數(shù)據(jù)污染。

以智能體從用戶請求到生成完整報告的全過程為例，五級自主性智能體的工作方式如下：智能體在接收到用戶的初始請求后，立即啟動自主的工作流程。它首先對任務(wù)進行全面的分析和規(guī)劃，制定出一份詳細且具有前瞻性的行動計劃。然后，智能體開始在互聯(lián)網(wǎng)上廣泛搜索相關(guān)的文獻資料，根據(jù)搜索結(jié)果動態(tài)調(diào)整搜索策略和研究方向。在收集到大量文獻后，智能體對這些文獻進行深度分析，提煉出關(guān)鍵的研究觀點和數(shù)據(jù)，并據(jù)此生成一系列具有針對性的研究問題。接著，智能體從政府機構(gòu)發(fā)布的經(jīng)濟數(shù)據(jù)、學術(shù)研究論文等權(quán)威渠道下載相關(guān)的數(shù)據(jù)集，并編寫代碼對數(shù)據(jù)進行專業(yè)的分析和處理。在數(shù)據(jù)分析過程中，智能體運用先進的數(shù)據(jù)可視化技術(shù)，將復(fù)雜的數(shù)據(jù)轉(zhuǎn)化為直觀易懂的圖表。最后，智能體將所有的研究成果整合到一個文檔中，經(jīng)過多輪的自我審查和格式優(yōu)化，生成一份正式的研究報告。整個過程無需用戶的參與，智能體憑借其強大的自主性和專業(yè)能力，獨立完成了從任務(wù)規(guī)劃到成果輸出的全過程。

在開發(fā)五級自主性智能體時，開發(fā)者需要為用戶提供更加完善且安全可靠的監(jiān)控機制。由于用戶無法直接干預(yù)智能體的操作過程，監(jiān)控機制就成為了用戶了解智能體行為和確保其正常運行的唯一窗口。這個監(jiān)控機制需要能夠?qū)崟r記錄智能體的所有活動，包括任務(wù)執(zhí)行的詳細步驟、數(shù)據(jù)的來源與處理過程、遇到的障礙及解決方案等，并以清晰、直觀的方式展示給用戶。同時，緊急關(guān)閉開關(guān)的設(shè)計也至關(guān)重要。開發(fā)者需要仔細考慮緊急關(guān)閉開關(guān)的觸發(fā)條件、響應(yīng)速度以及關(guān)閉后的數(shù)據(jù)保存和恢復(fù)機制等問題，以確保在緊急情況下，用戶能夠迅速有效地終止智能體的活動，同時最大程度地減少對任務(wù)數(shù)據(jù)和系統(tǒng)狀態(tài)的影響。

自主性等級框架的實踐應(yīng)用與思考

自主性證書：智能體治理的新機制

自主性證書是一種創(chuàng)新的智能體治理機制，它以數(shù)字文件的形式規(guī)定了智能體在特定技術(shù)規(guī)格和操作環(huán)境下的最大自主性級別。這些證書可以由專業(yè)的第三方治理機構(gòu)頒發(fā)，并與智能體的標識符緊密關(guān)聯(lián)，以便在智能體的部署和運行過程中，開發(fā)者、用戶以及其他相關(guān)方能夠隨時查閱，了解智能體的自主性限制和行為特征。

在治理層面，自主性證書發(fā)放流程如下：Agent開發(fā)者將其開發(fā)的Agent程序以及針對某一特定自主性等級的自主性案例提交給第三方管理機構(gòu)。管理機構(gòu)將對Agent程序進行評估，以確保其行為與自主性案例相符，并頒發(fā)與案例中描述的等級相對應(yīng)的證書

自主性證書應(yīng)包含以下內(nèi)容：智能體基本信息（名稱、版本、開發(fā)者等）、技術(shù)規(guī)格（模型架構(gòu)、工具集、操作環(huán)境等）、自主性級別及詳細描述（在不同場景下的用戶角色、交互方式、決策范圍等）、安全特性（數(shù)據(jù)保護措施、防止未授權(quán)訪問機制等）、證書有效期和頒發(fā)機構(gòu)等。以下是一個可能的自主性證書的示例模板（如果我理解有誤，請與我交流，謝謝）：

• 智能體名稱：[智能體具體名稱]
• 版本：[版本號]
• 開發(fā)者：[開發(fā)者名稱]
• 模型架構(gòu)：[詳細描述智能體所使用的模型架構(gòu)，如基于 Transformer 的大型語言模型等]
• 工具集：[列舉智能體可使用的工具，如 UI 導航、代碼執(zhí)行、文檔寫作等]
• 操作環(huán)境：[描述智能體運行的操作系統(tǒng)環(huán)境、硬件要求等]
• 自主性級別：三級自主性
• 自主性詳細描述：在市場調(diào)研場景中，智能體可自主收集和分析市場數(shù)據(jù)，制定初步市場調(diào)研報告，但在關(guān)鍵節(jié)點（如目標市場定位、產(chǎn)品競爭力分析等）需主動向用戶咨詢，獲取用戶的專業(yè)知識和建議。智能體具備豐富的用戶反饋接口，如在線表單、即時通訊工具等，確保用戶能夠深入?yún)⑴c其決策過程。在報告撰寫過程中，智能體可自主調(diào)整內(nèi)容結(jié)構(gòu)和分析方法，但需定期向用戶匯報進展情況，接受用戶的指導和修改意見。
• 安全特性：采用 [具體加密算法] 對用戶數(shù)據(jù)進行加密存儲和傳輸，確保數(shù)據(jù)的保密性和完整性；具備防止未授權(quán)訪問的機制，如身份驗證、訪問控制列表等，只有經(jīng)過授權(quán)的用戶才能查看和操作智能體的相關(guān)數(shù)據(jù)和功能。
• 證書有效期：自頒發(fā)之日起 [有效期時長] 內(nèi)有效
• 頒發(fā)機構(gòu)：[第三方治理機構(gòu)名稱]

自主性證書的價值體現(xiàn)在多個方面。首先，在風險評估領(lǐng)域，它能夠幫助開發(fā)者針對不同自主性級別的智能體，進行更有針對性的部署前風險評估。例如，對于認證為四級和五級的智能體，開發(fā)者可以重點關(guān)注其長期規(guī)劃組件的安全性評估，確保智能體在自主執(zhí)行長期任務(wù)時不會偏離預(yù)期軌道；而對于二級和三級智能體，則可以著重審查其用戶反饋機制和任務(wù)交接機制的安全性，防止因用戶與智能體之間的協(xié)作問題引發(fā)潛在風險。其次，在安全框架設(shè)計方面，自主性證書為安全框架的制定提供了更為精細的依據(jù)。現(xiàn)有的許多企業(yè)安全框架，如 Anthropic 的 Responsible Scaling Policy（RSP）和 DeepMind 的 Frontier Safety Framework，雖然已經(jīng)初步涉及智能體自主性問題，但往往將自主性視為一個較為模糊的概念。自主性證書的引入可以促使這些安全框架進一步細化對自主性任務(wù)完成的考量，從而更嚴謹?shù)卦u估智能體在現(xiàn)實世界中的安全性。例如，一個五級智能體可能因其能夠獨立生成收入而被認為在某個安全框架下具有較高的安全性等級，但實際上，如果用戶能夠通過簡單的四級智能體批準操作來實現(xiàn)同樣的收入生成，那么這兩個智能體的風險水平實際上是相似的。自主性證書可以幫助研究人員識別并深入研究這類相似場景，從而推動安全框架設(shè)計的持續(xù)改進。

在多智能體系統(tǒng)工程中，自主性證書同樣發(fā)揮著重要作用。它能夠幫助開發(fā)者預(yù)測不同智能體之間的協(xié)同工作模式。一個全部由一級智能體組成的系統(tǒng)顯然存在效率低下的問題，因為所有智能體都在等待操作員分配任務(wù)；而一個全部由五級智能體構(gòu)成的系統(tǒng)則可能導致智能體之間通信稀少，系統(tǒng)難以有效地進行調(diào)控、調(diào)試和審計。相比之下，一個包含不同自主性級別智能體的混合系統(tǒng)，或者由多個二級協(xié)同智能體共同工作的系統(tǒng)，更有可能實現(xiàn)高效、穩(wěn)定的多智能體協(xié)作。此外，由于多智能體系統(tǒng)中的智能體可能來自不同的開發(fā)者，自主性證書還充當了一個重要的信息交流接口，使不同背景的智能體能夠更好地理解彼此的行為模式，從而提高整個系統(tǒng)的協(xié)同效率和互操作性。

自主性證書的發(fā)放流程遵循一套嚴謹?shù)囊?guī)范。智能體開發(fā)者首先需要向第三方治理機構(gòu)提交一個私有部署的智能體以及一份詳細的自主性案例。自主性案例類似于安全案例，它需要提供令人信服的證據(jù)，證明智能體的行為不會超過其聲稱的自主性級別。具體來說，自主性案例需要明確列出智能體在特定操作環(huán)境下為達到某一自主性級別所需滿足的目標，提供實現(xiàn)這些目標的論證過程，以及支持這些論證的證據(jù)，同時界定自主性案例的有效范圍。第三方治理機構(gòu)在收到開發(fā)者提交的智能體和自主性案例后，會對智能體進行全面的私有化評估，驗證其是否符合自主性案例中提出的各項目標。如果智能體通過評估，治理機構(gòu)將為其頒發(fā)對應(yīng)級別的自主性證書；若未通過，則會將評估結(jié)果反饋給開發(fā)者，要求其對智能體或自主性案例進行相應(yīng)的修改和完善。

為了更好地指導開發(fā)者，以下是根據(jù)證書要求調(diào)整智能體設(shè)計和開發(fā)流程的步驟清單：

步驟一：在智能體需求分析階段，依據(jù)自主性證書要求，明確智能體的目標自主性級別，結(jié)合實際應(yīng)用場景和用戶需求，確定智能體的功能需求和自主性設(shè)計要點。

步驟二：在智能體設(shè)計階段，根據(jù)目標自主性級別，設(shè)計智能體的架構(gòu)、交互接口和決策機制。確保智能體的行為模式和交互方式符合相應(yīng)自主性級別的規(guī)范，如在三級自主性設(shè)計中，重點設(shè)計智能體的咨詢機制和用戶反饋接口，使其能夠在關(guān)鍵節(jié)點主動向用戶尋求指導。

步驟三：在智能體開發(fā)階段，按照設(shè)計方案實現(xiàn)智能體的各項功能，并在開發(fā)過程中進行自主性級別的自評估。通過編寫測試用例和模擬實際應(yīng)用場景，驗證智能體在不同情況下的自主性表現(xiàn)是否符合預(yù)期，如驗證三級自主性智能體是否能夠在規(guī)定的關(guān)鍵節(jié)點主動向用戶咨詢，并合理整合用戶反饋。

步驟四：在智能體測試階段，進行更全面和嚴格的自主性測試。邀請真實用戶參與測試，收集用戶與智能體交互的數(shù)據(jù)和反饋信息，分析智能體在實際使用環(huán)境下的自主性表現(xiàn)。根據(jù)測試結(jié)果，對智能體進行優(yōu)化和調(diào)整，確保其自主性級別達到證書申請要求。

步驟五：收集和整理智能體開發(fā)過程中的相關(guān)證據(jù)，如需求文檔、設(shè)計文檔、測試報告、用戶反饋記錄等，以支持自主性證書的申請。同時，撰寫自主性案例，詳細描述智能體在特定操作環(huán)境下為達到聲稱自主性級別所滿足的目標、論證過程和證據(jù)支持等內(nèi)容，提交給第三方治理機構(gòu)進行評估。

當智能體的技術(shù)規(guī)格或操作環(huán)境發(fā)生變更時，其自主性證書可能會失效。例如，智能體新增了一個能夠操控數(shù)據(jù)庫的工具，這將改變智能體請求用戶批準的場景范圍；或者智能體的運行環(huán)境從單機文檔編輯器轉(zhuǎn)變?yōu)閰f(xié)作白板，這將為智能體和用戶之間開辟新的任務(wù)委托可能性。在這種情況下，開發(fā)者需要重新申請自主性證書，再次走完證書發(fā)放流程，并提交更新后的智能體和自主性案例。不過，如果變更較為輕微，且之前的自主性案例能夠經(jīng)過簡單審查后繼續(xù)適用，那么這一更新過程可能會得到適當加速，以提高證書管理的效率。

輔助評估：自主性評價的新方法

當前，智能體的評估主要集中在能力基準測試上，通過衡量智能體在復(fù)雜多步驟任務(wù)中的準確性來評估其性能。然而，正如之前在五級自主性框架中所強調(diào)的，自主性是一種獨立于智能體能力的設(shè)計決策。即使智能體的能力集和操作環(huán)境保持不變，開發(fā)者仍然可以通過調(diào)整設(shè)計，改變智能體的自主性級別。因此，傳統(tǒng)的評估方法無法全面反映智能體的自主性特征，獨立于能力的自主性評估方法顯得尤為必要。

輔助評估方法作為一種創(chuàng)新的自主性評估手段，其核心思想是在任務(wù)執(zhí)行過程中，允許智能體請求待命用戶的協(xié)助。通過記錄用戶參與的深度和廣度，來確定智能體的自主性級別。具體來說，評估過程從智能體獨立完成任務(wù)開始，此時不為智能體提供任何用戶協(xié)助，以此測試智能體的完全自主能力。如果智能體能夠在所有主要任務(wù)上達到或超過預(yù)設(shè)的準確性或完成率閾值（T），則表明該智能體具備五級自主性。若未能達到閾值，評估進入下一輪，用戶開始以四級互動的形式介入，例如為智能體提供批準和拒絕操作等基本協(xié)助。同時，用戶需要詳細記錄自己的參與情況，包括參與的具體時間、參與方式以及參與程度等。如果智能體在獲得這種程度的用戶協(xié)助后仍無法達到閾值，用戶將進一步增加參與深度，按照三級互動的方式與智能體協(xié)作。這個過程持續(xù)進行，用戶每一輪都逐步增加參與程度，直到智能體最終達到任務(wù)的準確性或完成率要求。

針對AI Agent的五級自主性框架

對于數(shù)據(jù)處理任務(wù)，準確性閾值 T 的確定可基于數(shù)據(jù)的用途和要求。若數(shù)據(jù)用于科學研究中的關(guān)鍵實驗結(jié)論，則 T 應(yīng)設(shè)定在 [X]% 以上，以確保數(shù)據(jù)的高可靠性。設(shè)定 T 時，首先分析任務(wù)的關(guān)鍵指標，如數(shù)據(jù)的精確度、完整性、一致性等，評估每個指標對任務(wù)成功的重要性權(quán)重。然后，參考歷史數(shù)據(jù)，了解在類似任務(wù)中智能體和人工操作的平均準確性和波動范圍。同時，考慮用戶需求和風險承受能力，如用戶對任務(wù)完成時間和成本的限制，以及對錯誤數(shù)據(jù)可能導致的后果的接受程度。綜合這些因素，運用統(tǒng)計分析方法和機器學習算法，預(yù)測并設(shè)定合理的閾值 T。在評估過程中，隨著對智能體性能和任務(wù)環(huán)境的深入了解，以及用戶需求的變化，閾值 T 應(yīng)動態(tài)調(diào)整。例如，當發(fā)現(xiàn)智能體在特定類型的數(shù)據(jù)處理任務(wù)中表現(xiàn)持續(xù)優(yōu)于預(yù)期，且用戶對數(shù)據(jù)準確性的要求有所降低時，可適當降低閾值 T，以提高評估效率和智能體的自主性表現(xiàn)。

同時，詳細描述如何記錄用戶參與的情況，包括記錄的具體內(nèi)容、格式以及工具選擇等，并介紹如何對這些記錄進行分析，以挖掘用戶參與模式與智能體自主性表現(xiàn)之間的關(guān)系，進而對智能體的交互機制和任務(wù)流程進行優(yōu)化。記錄用戶參與情況時，應(yīng)包括以下內(nèi)容：用戶參與的具體時間（精確到分鐘）、參與方式（如批準操作、提供反饋、修改任務(wù)參數(shù)等）、參與程度（如簡單點擊確認、詳細輸入建議、長時間與智能體協(xié)作等）、對智能體任務(wù)執(zhí)行的影響（如導致智能體調(diào)整決策、重新規(guī)劃任務(wù)步驟、終止當前操作等）。記錄格式可采用結(jié)構(gòu)化的表格形式，每行記錄一次用戶參與事件，各列分別對應(yīng)上述記錄內(nèi)容。工具選擇方面，對于人工評估，可使用帶有時間戳和事件標記的記錄表格；對于自動化評估，可開發(fā)專門的記錄系統(tǒng)，利用 API 接口實時捕獲用戶與智能體的交互數(shù)據(jù)，并存儲在數(shù)據(jù)庫中。在分析記錄時，首先運用數(shù)據(jù)分析技術(shù)，計算用戶參與的頻率、平均參與時間和參與方式分布等統(tǒng)計指標，了解用戶參與的整體模式。然后，采用關(guān)聯(lián)規(guī)則挖掘和聚類分析等方法，探索用戶參與模式與智能體自主性表現(xiàn)之間的關(guān)系，如發(fā)現(xiàn)用戶在特定任務(wù)階段的頻繁干預(yù)與智能體的低自主性表現(xiàn)相關(guān)聯(lián)，或某種用戶反饋方式能夠顯著提升智能體的任務(wù)完成質(zhì)量。根據(jù)這些分析結(jié)果，針對性地優(yōu)化智能體的交互機制，如調(diào)整智能體在特定任務(wù)階段的自主性級別，改進智能體對用戶反饋的響應(yīng)策略，或重新設(shè)計用戶界面以提高用戶參與的便捷性和有效性，從而提升智能體的整體性能和用戶體驗。

在實際應(yīng)用中，輔助評估方法已經(jīng)展現(xiàn)出了其獨特的優(yōu)勢和價值。例如，在某個智能體評估項目中，開發(fā)者最初認為其開發(fā)的智能體可能具備三級自主性。通過輔助評估，發(fā)現(xiàn)在任務(wù)執(zhí)行過程中，智能體在某些關(guān)鍵步驟上對用戶的反饋依賴程度較高，而用戶的反饋參與深度超出了三級自主性的范圍。經(jīng)過深入分析，開發(fā)者發(fā)現(xiàn)是智能體的反饋機制設(shè)計存在缺陷，導致其在獲取用戶反饋時效率低下，從而影響了整體的自主性表現(xiàn)。根據(jù)評估結(jié)果，開發(fā)者對智能體的反饋機制進行了優(yōu)化，重新調(diào)整了任務(wù)流程中用戶與智能體的交互方式。經(jīng)過再次評估，智能體的自主性成功達到了三級水平，這不僅提高了智能體的性能和可靠性，也為開發(fā)者提供了寶貴的設(shè)計經(jīng)驗。

輔助評估的具體操作步驟如下：首先，明確任務(wù)的準確性或完成率閾值 T，這個閾值是評估智能體自主性的關(guān)鍵標準，需要根據(jù)具體任務(wù)的重要性和復(fù)雜性進行合理設(shè)定。然后，運行智能體執(zhí)行基準任務(wù)，初始階段禁止用戶任何形式的參與，以此測試智能體的完全自主能力。如果智能體在所有主要任務(wù)上均達到或超過 T，那么即可判定其為五級自主性。反之，則進入下一輪評估。在后續(xù)評估中，用戶依次以四級、三級等方式逐漸增加對智能體的協(xié)助，每一輪都詳細記錄用戶參與的性質(zhì)和程度。最終，通過對這些參與記錄的分析，結(jié)合五級自主性框架中的“特性”描述，對智能體的自主性級別進行準確分類。

為了節(jié)省資源，評估過程可以不從零開始，而是根據(jù)對智能體自主性級別的初步假設(shè)，選擇一個合適的起始評估級別。如果智能體在該級別成功通過評估，則進一步在更低自主性級別進行驗證，以確定其自主性的上限；如果未能通過，則在更高自主性級別進行下一輪評估，逐步逼近智能體的真實自主性級別。這種靈活的評估策略不僅提高了評估效率，還為開發(fā)者提供了一個動態(tài)優(yōu)化智能體設(shè)計的有力工具。

總結(jié)

AI 智能體的自主性，這是一把雙刃劍，既蘊含著推動技術(shù)革新的巨大力量，也暗含著可能引發(fā)的風險。前面我們的探討，期望將自主性從能力和操作環(huán)境的束縛中解放出來，視為一個獨立的設(shè)計決策維度。文中提出了五級自主性框架，這是一把標尺，為開發(fā)者更確定性的丈量智能體的自主性水平提供了明確的參照系。這不光是一個理論模型，是開發(fā)者在實際設(shè)計過程中可以倚靠并落地的實用工具，助力大家更精細地塑造用戶體驗，編排智能體與其他智能體高效通信的規(guī)則網(wǎng)絡(luò)，梳理失敗模式的脈絡(luò)，進而鎖定精準的解決路徑。這個規(guī)劃和思考的方式，非常工程化，它讓智能體設(shè)計更具 SOP 化的落地意義。

AI 智能體與用戶的定義厘清，讓我們明白在構(gòu)建智能系統(tǒng)的初始，就需要精準錨定二者角色，這是后續(xù)所有設(shè)計的基石。經(jīng)歷了代理性與自主性的抽絲剝繭式剖析，我們更是可以領(lǐng)會到二者雖緊密聯(lián)結(jié)卻又涇渭分明，為智能體治理提供的兩種調(diào)節(jié)維度，很像“方向盤”與“剎車”之間的關(guān)系，它們?nèi)币徊豢伞?/span>

這篇論文中，自主性證書的構(gòu)想極具智能體治理的前瞻性，它相當于智能體的“身份名片”，讓開發(fā)者、用戶、監(jiān)管者等各方都能迅速掌握智能體的能力邊界與行為準則，為智能體在復(fù)雜現(xiàn)實世界中的安全、合規(guī)運行鋪就道路。而輔助評估方法的提出，解決了自主性衡量這一問題，這讓我看到一個動態(tài)、精準評估智能體自主性水平的可行路徑，為智能體的持續(xù)優(yōu)化與迭代提供了有力支撐。本文是對 AI 智能體自主性的一次全方位、深度的探索與思考，希望能給大家對智能體設(shè)計的定義，與未來智能體生產(chǎn)時的治理，帶來更多的啟發(fā)與思考。