今天，我們正式發(fā)布了 LangMem SDK——一個幫助您的代理通過長期記憶不斷學(xué)習(xí)和改進的工具庫。

這個 SDK 提供了一些工具，能夠從對話中提取信息、通過更新提示詞優(yōu)化代理行為，并保持關(guān)于行為、事實和事件的長期記憶。

您可以將 LangMem 的核心 API 與任何存儲系統(tǒng)配合使用，也能在任何代理框架中集成。它還與 LangGraph 的長期記憶層原生兼容。我們還推出了一項托管服務(wù)，提供額外的長期記憶功能，并且免費提供——如果您希望在生產(chǎn)環(huán)境中使用，您可以通過此鏈接注冊。

我們的目標(biāo)是讓任何人都能夠更容易地構(gòu)建那些隨著時間推移，變得更加智能和個性化的 AI 體驗。這項工作建立在我們之前推出的 LangMem alpha 服務(wù)和 LangGraph 的持久化 長期記憶層的基礎(chǔ)上。

安裝方法很簡單，只需運行：

pip install -U langmem

記憶與自適應(yīng)代理

代理通過記憶來學(xué)習(xí)，但其記憶的形成、存儲、更新和調(diào)用方式，會影響代理能夠?qū)W到哪些知識，或者執(zhí)行哪些任務(wù)。在 LangChain，我們發(fā)現(xiàn)，首先識別代理所需學(xué)習(xí)的能力，并將這些能力與特定的記憶類型或方法對應(yīng)起來，之后再在代理中實現(xiàn)這些功能，是非常重要的。在添加記憶之前，您應(yīng)該先考慮以下幾個問題：

• 哪些行為應(yīng)該由用戶反饋學(xué)習(xí)，哪些應(yīng)該是預(yù)定義的？
• 應(yīng)該跟蹤哪些類型的知識或事實？
• 什么條件下記憶應(yīng)該被調(diào)用？

盡管有一些重疊，每種記憶類型在構(gòu)建自適應(yīng)代理時都有其獨特的功能：

回到上面的問題：

• 哪些行為應(yīng)該被學(xué)習(xí)，哪些應(yīng)該是固定的？您的代理行為中的某些部分可能需要根據(jù)用戶反饋和經(jīng)驗進行調(diào)整，而其他部分應(yīng)該保持一致。這個問題將幫助您決定是否需要程序記憶來讓行為模式不斷進化，還是固定的提示規(guī)則就能滿足需求。這類似于 OpenAI 模型規(guī)范中的“指揮鏈”概念，因為學(xué)習(xí)的行為是通過與用戶的互動來塑造的。
• 應(yīng)該跟蹤哪些類型的知識或事實？不同的應(yīng)用場景需要不同類型的記憶持久化。您可能需要語義記憶來存儲有關(guān)用戶或領(lǐng)域的事實，事件記憶來從成功的交互中學(xué)習(xí)，或者兩者結(jié)合使用。
• 什么條件下應(yīng)該回憶起記憶？有些記憶（如核心程序記憶）是數(shù)據(jù)獨立的——它們始終存在于提示詞中。其他記憶可能是數(shù)據(jù)相關(guān)的，根據(jù)語義相似度來調(diào)用。有些記憶則可能根據(jù)應(yīng)用上下文、相似度、時間等因素來觸發(fā)回憶。

另一個需要關(guān)注的問題是記憶的隱私性。在 LangMem 中，每條記憶都有一個命名空間。最常見的命名空間是使用 ??use_id??，以避免不同用戶之間的記憶交叉。一般來說，記憶可以限定在特定的應(yīng)用路由、特定的用戶，或者跨團隊共享，代理也可以學(xué)習(xí)所有用戶的核心行為模式。記憶的共享程度由隱私和性能需求決定。

這些記憶類型旨在處理超越單一對話的記憶。在 LangGraph 中，給定對話或線程內(nèi)的記憶已經(jīng)通過檢查點功能得到了合理處理（只要它不超出模型的有效上下文窗口），這充當(dāng)了代理的“短期”或“工作”記憶系統(tǒng)。

這與標(biāo)準(zhǔn)的 RAG 系統(tǒng)有所不同，具體體現(xiàn)在兩個方面：首先是信息獲取的方式：是通過交互，而不是通過離線數(shù)據(jù)攝取。其次是優(yōu)先處理的信息類型。接下來，我們將詳細(xì)介紹這些記憶類型。

語義記憶：事實

語義記憶存儲關(guān)鍵的事實和它們之間的關(guān)系，以及其他能為代理提供支持的信息。它讓代理能夠記住那些模型無法“預(yù)訓(xùn)練”的重要細(xì)節(jié)，而這些信息在網(wǎng)頁搜索或通用檢索器中是無法獲取的。

memories = [
    ExtractedMemory(
        id="27e96a9d-8e53-4031-865e-5ec50c1f7ad5",
        cnotallow=Memory(
            cnotallow="Alice 管理著 ML 團隊，并且指導(dǎo) Bob，Bob 也是團隊成員。"
        ),
    ),
    ExtractedMemory(
        id="e2f6b646-cdf1-4be1-bb40-0fd91d25d00f",
        cnotallow=Memory(
            cnotallow="Bob 現(xiàn)在領(lǐng)導(dǎo) ML 團隊并負(fù)責(zé) NLP 項目。"
        ),
    ),
]

在我們經(jīng)驗中，語義記憶是工程師在首次尋求添加記憶層時最常想要的記憶類型（可能在短期“對話歷史”記憶之后）。

它（可以說）與傳統(tǒng)的 RAG 系統(tǒng)最為相似。如果某些知識可以從其他存儲（如文檔、代碼庫等）中獲取，且該存儲被認(rèn)為是權(quán)威來源（而非交互本身），那么您的代理可以通過直接檢索該知識庫中的信息來正常工作。或者，您也可以定期將這些知識引入語義記憶系統(tǒng)。如果這些知識涉及個性化（關(guān)于用戶的）或者是原材料中找不到的概念關(guān)系，那么語義記憶將非常適合您的需求。

程序記憶：行為的演變

程序記憶代表了內(nèi)化的如何做的知識。它與事件記憶的不同之處在于，它專注于一般化的技能、規(guī)則和行為。對于 AI 代理，程序記憶是保存在模型權(quán)重、代理代碼和代理提示中的，決定了代理的功能。在 LangMem 中，我們將程序記憶視為通過更新代理提示來保存的學(xué)習(xí)到的指令。

"""
你是一個樂于助人的助手..
    如果用戶詢問天文學(xué)問題，使用真實世界的例子和當(dāng)前的科學(xué)數(shù)據(jù)清晰地解釋相關(guān)話題。
    在有幫助時使用視覺參考，并根據(jù)用戶的知識水平做出調(diào)整。
    平衡實際的天文觀察和理論概念，基于用戶需求提供觀測建議或技術(shù)解釋。
"""

優(yōu)化器會根據(jù)成功與不成功的交互，識別出有效的行為模式，并更新系統(tǒng)提示來強化這些行為。這形成了一個反饋回路，使代理的核心指令根據(jù)觀察到的表現(xiàn)不斷演變。

事件記憶：經(jīng)歷與事件

事件記憶存儲的是過去交互的記憶。它與程序記憶的不同之處在于，它專注于回憶具體的經(jīng)歷，而不是一般化的知識。它也與語義記憶不同，因為它關(guān)注的是過去的事件，而不是普遍的事實，它回答的是“代理如何解決了一個特定的問題”，而不僅僅是“答案是什么”。事件記憶通常以少量示例的形式存在，每個示例都提煉自較長的原始交互。目前，LangMem 還不支持專門為事件記憶設(shè)計的實用工具。

立即體驗

您可以通過查看 文檔，了解更多關(guān)于如何使用 LangMem 實現(xiàn)自定義記憶系統(tǒng)的示例，包括以下內(nèi)容：

• 創(chuàng)建一個能夠主動管理自己記憶的代理
• 在代理之間共享記憶
• 為記憶命名空間，以便按用戶或團隊組織信息
• 將 LangMem 集成到您自定義的框架中

通過這種方式，LangMem SDK 為代理提供了一個全新的長期記憶管理系統(tǒng)，使得 AI 代理能夠在長期互動中不斷進化，變得更加智能與個性化。每種記憶類型的設(shè)計都緊密圍繞著代理行為的提升與優(yōu)化，您可以根據(jù)具體的應(yīng)用場景來選擇合適的記憶方式，提升您的代理能力。

本文轉(zhuǎn)載自 ??AI小智??，作者： AI小智