本文經(jīng)翻譯并二次整理自LangFriend: a Journal with Long-Term Memory一文。講述了LangChain在模型記憶功能方面進(jìn)行的一次深入的應(yīng)用實(shí)戰(zhàn)，并推出了具備記憶能力的日記應(yīng)用-LangFriend。

• 立即體驗(yàn)日記應(yīng)用https://journal.langchain.com/
• 申請開發(fā)者API訪問https://forms.gle/j3Aaa2ibNpg5pC4q7

我們深信，記憶功能將是大型語言模型（LLM）系統(tǒng)中最具潛力的一部分。生成性AI的魅力在于它能即時創(chuàng)造獨(dú)特的內(nèi)容，這在個性化用戶體驗(yàn)方面展現(xiàn)出巨大潛力。這種個性化可以通過利用已有的用戶信息來實(shí)現(xiàn)，也可以通過記住用戶之前的互動并從中學(xué)習(xí)來達(dá)成。

正是這種“記憶”功能，讓我們充滿探索的熱情。我們相信，隨著用戶與LLM之間互動的增多，聊天機(jī)器人將成為LLM應(yīng)用的主要形式。這意味著在這些對話中，將交換更多有價值的用戶信息，比如個人的喜好、朋友關(guān)系和目標(biāo)等。了解這些信息，并將它們?nèi)谌氲綉?yīng)用中，將極大地提升用戶體驗(yàn)。

在探索記憶的過程中，我們認(rèn)為通過一個具體的例子來激發(fā)我們的工作是非常有幫助的。我們選擇了日記應(yīng)用作為這個例子，并將其命名為“LangFriend”，今天正式向大家介紹。雖然它還只是一個初步的研究版本，但我們希望收集大家的反饋，找出優(yōu)點(diǎn)和改進(jìn)空間，最終將其開源。

在本文中，我們將討論一些關(guān)于記憶的學(xué)術(shù)研究，以及其他公司在這方面的創(chuàng)新工作。我們還將詳細(xì)介紹我們的日記應(yīng)用及其功能。如果你對記憶技術(shù)感興趣，歡迎聯(lián)系我們。

學(xué)術(shù)研究

我們發(fā)現(xiàn)了兩篇對我們的工作頗有啟發(fā)的學(xué)術(shù)論文。

首先是MemGPT。這項(xiàng)由加州大學(xué)伯克利分校的研究者們完成的研究表明，通過賦予LLM一些特定的功能，比如記憶特定事實(shí)和回憶相關(guān)內(nèi)容，可以增強(qiáng)其在長對話和文檔分析等任務(wù)中的實(shí)用性。

大型語言模型（LLMs）已經(jīng)徹底改變了 AI，但受到有限上下文窗口的限制，阻礙了它們在像擴(kuò)展對話和文檔分析這樣的任務(wù)中的實(shí)用性。為了在有限的上下文窗口之外使用上下文，我們提出了虛擬上下文管理，一種從傳統(tǒng)操作系統(tǒng)中的層次記憶系統(tǒng)獲取靈感的技術(shù)，它通過在物理內(nèi)存和磁盤之間分頁提供擴(kuò)展虛擬內(nèi)存的幻覺。使用這種技術(shù)，我們引入了 MemGPT（MemoryGPT），一個系統(tǒng)，它智能地管理不同的存儲層次，以有效地在 LLM 的有限上下文窗口內(nèi)提供擴(kuò)展上下文。

其次是Generative Agents。。斯坦福大學(xué)的研究者們通過反思經(jīng)驗(yàn)來形成記憶，并將這些記憶存儲起來，以便在需要時程序性地檢索。

我們通過消融展示了我們代理架構(gòu)的組成部分——觀察、規(guī)劃和反思——每一個都對代理行為的可信度做出了關(guān)鍵貢獻(xiàn)。通過將大型語言模型與計算交互代理融合，這項(xiàng)工作引入了架構(gòu)和交互模式，以實(shí)現(xiàn)人類行為的可信模擬。

這兩篇論文展示了LLM在主動使用記憶和作為背景過程兩種不同方式的應(yīng)用。

業(yè)界動態(tài)

一些公司在記憶技術(shù)上取得了顯著進(jìn)展。

Plastic Labs 正在開發(fā)像  TutorGPT  這樣的項(xiàng)目，這是一個動態(tài)的、以心智理論為基礎(chǔ)的教學(xué)輔助工具。

Good AI 最近開源了一個帶有長期記憶功能的聊天助手Charlie。這個助手不僅能夠記住用戶的交互，還能在必要時檢索和整合這些記憶，以提供更加個性化的服務(wù)。

乍一看，Charlie 可能與現(xiàn)有的 LLM 代理如 ChatGPT、Claude 和 Gemini 類似。然而，其獨(dú)特的特點(diǎn)是實(shí)現(xiàn)了 LTM，使其能夠 從每次交互中學(xué)習(xí)。這包括 將用戶消息、助手回應(yīng)和環(huán)境反饋存儲和整合到 LTM 中，以便在與手頭任務(wù)相關(guān)時檢索。

OpenAI 也在其 ChatGPT 中加入了記憶功能，進(jìn)一步提升了用戶體驗(yàn)。

這些公司的做法展示了記憶功能可以是LLM主動調(diào)用的一部分，也可以是自動運(yùn)行的背景過程。

為何選擇日記應(yīng)用？

我們在尋找一個適合測試長期記憶用例時，立刻想到了日記應(yīng)用。我們認(rèn)為，與普通聊天應(yīng)用相比，日記中的互動包含更多值得記憶的信息。

在普通聊天應(yīng)用中，可能充斥著許多無關(guān)緊要的交流，比如“嘿！”、“嗨”、“怎么樣？”等。而在日記的環(huán)境中，人們更快地分享真實(shí)而深刻的感受和見解。

盡管如此，我們還是為這個應(yīng)用添加了聊天功能。這主要是為了展示我們的應(yīng)用能夠?qū)W習(xí)和記住用戶的信息，并利用這些信息為用戶提供個性化的回應(yīng)。

在這里，你可以看到應(yīng)用記住了我喜歡意大利菜，以及我在鍛煉后感到精神煥發(fā)的信息。

應(yīng)用界面截圖

當(dāng)你發(fā)表了第一篇日記并與我們的助手進(jìn)行交流后，你會在導(dǎo)航欄中看到一個“記憶”按鈕。點(diǎn)擊它，你將看到我們從你的日記中提取的所有重要記憶。

記憶列表界面截圖

你會注意到，這個列表并不長，只包含了最重要的事實(shí)。實(shí)際上，我們在后臺從你的日記中提取了更多的信息，并且你可以搜索所有的記憶！

開始在“搜索記憶...”輸入框中輸入關(guān)鍵詞，你將實(shí)時看到LangFriend為你保存的各種事實(shí)：

搜索記憶界面截圖

個性化設(shè)置

我們希望LangFriend能夠吸引各種用戶。因此，我們允許用戶自定義系統(tǒng)消息，這是與我們的助手進(jìn)行所有聊天的前綴和基調(diào)。我們提供了一個默認(rèn)設(shè)置，但如果你想要一些不同的東西，你可以根據(jù)自己的喜好進(jìn)行調(diào)整。

找到系統(tǒng)提示，訪問“日志”頁面并點(diǎn)擊“配置”按鈕進(jìn)行更改。這里會彈出一個對話框，你可以在這里編輯你的系統(tǒng)提示。

配置界面截圖

所有更改都將在會話之間保留，并將成為你未來所有聊天對話的前綴。

總結(jié)

LangFriend是一個充滿潛力的研究預(yù)覽版，它展示了將長期記憶整合到LLM應(yīng)用中的巨大潛力。通過專注于日記應(yīng)用，我們旨在捕獲用戶的有意義信息，提供個性化的回應(yīng)，從而增強(qiáng)用戶體驗(yàn)。受到學(xué)術(shù)研究和業(yè)界創(chuàng)新的啟發(fā)，LangFriend證明了記憶可以被積極地使用，也可以作為背景過程整合進(jìn)來，創(chuàng)造出引人入勝、能夠適應(yīng)用戶需求的交互體驗(yàn)。我們很興奮地邀請社區(qū)來體驗(yàn)LangFriend，提供反饋，并與我們一起推動LLM應(yīng)用中記憶技術(shù)的邊界，釋放生成性AI的全部潛力，為用戶帶來更強(qiáng)大、更個性化、更有意義的體驗(yàn)。