在當今數字化時代，AI已經成為了我們生活中不可或缺的一部分。無論是智能助手、聊天機器人，還是各種自動化工具，AI都在為我們提供著各種便利。然而，你是否也曾遇到過這樣的問題：當AI沒有實時數據支持時，它的回答總是顯得有些模糊和不準確？或者，每次需要在本地數據上實現RAG（Retrieval-Augmented Generation，檢索增強生成）時，都要重復編寫代碼，這不僅耗時，還容易出錯。別擔心，今天我們就來聊聊如何通過RAG與MCP（Model Context Protocol，模型上下文協議）的結合，輕松解決這些問題，讓你的AI變得更加智能和高效。

一、什么是RAG？

RAG是一種AI框架，它將傳統信息檢索系統（如搜索引擎和數據庫）的強大功能與擅長自然語言生成的AI模型相結合。簡單來說，RAG就像是在寫詳細報告之前，先向圖書館員咨詢信息一樣。它能夠為AI模型提供外部知識，讓模型在回答問題時更加準確、實時且具有上下文意識。RAG的好處包括：

• 實時且準確的回答：通過檢索最新的信息，RAG能夠確保AI的回答基于最新的數據。
• 減少“幻覺”：AI模型有時會生成一些看似合理但實際上并不存在的信息，這種現象被稱為“幻覺”。RAG能夠通過檢索真實數據來減少這種情況的發生。
• 上下文感知的答案：RAG能夠根據上下文提供更貼切的答案，而不是簡單地生成一段通用的文本。

二、什么是MCP？

MCP是一種開放協議，它在你的AI助手和外部工具之間架起了一座橋梁。傳統上，將API和工具與AI模型集成需要編寫大量的自定義代碼，而MCP提供了一種通用且簡單的方式來連接這些工具。它就像是一個即插即用的工具，讓AI模型能夠準確、高效地訪問現實世界的工具、API或數據集。

三、RAG與MCP如何協同工作？

在RAG中，MCP充當了一個檢索層的角色。它根據你的查詢，從數據庫中檢索出重要的信息片段。MCP完全標準化了你與數據庫的交互方式，這意味著你不再需要為每個RAG項目編寫自定義代碼。它能夠根據AI的推理動態地使用工具。

四、RAG與MCP的使用場景

RAG與MCP的結合有著廣泛的應用場景，以下是一些例子：

• 新聞文章摘要：通過搜索新聞文章并進行摘要，為用戶提供最新的新聞動態。
• 金融市場更新：查詢金融API，獲取最新的市場信息，幫助用戶做出更明智的投資決策。
• 私密文檔查詢：加載私密文檔，為用戶提供基于上下文的準確答案。
• 天氣或位置信息查詢：在回答問題之前，先獲取天氣或位置信息，使答案更具針對性。
• 企業搜索：通過PDF或數據庫連接器，為企業的內部搜索提供支持。

五、如何實現RAG與MCP的集成？

接下來，我們將詳細地介紹如何實現RAG與MCP的集成。按照以下步驟，你可以輕松創建你的第一個MCP服務器，并實現RAG功能。

第一步：安裝依賴項

首先，我們需要安裝一些必要的庫。在你的終端中運行以下命令：

pip install langchain>=0.1.0 \
           langchain-community>=0.0.5 \
           langchain-groq>=0.0.2 \
           mcp>=1.9.1 \
           chromadb>=0.4.22 \
           huggingface-hub>=0.20.3 \
           transformers>=4.38.0 \
           sentence-transformers>=2.2.2

這一步將安裝所有所需的庫。

第二步：創建???server.py??

接下來，我們需要定義一個RAG MCP服務器。在??server.py??文件中編寫以下代碼：

from mcp.server.fastmcp import FastMCP
from langchain.chains import RetrievalQA
from langchain.document_loaders import TextLoader
from langchain.text_splitter import CharacterTextSplitter
from langchain_community.vectorstores import Chroma
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_groq import ChatGroq  # Groq LLM


# 創建一個MCP服務器
mcp = FastMCP("RAG")


# 設置嵌入模型（你可以選擇其他Hugging Face模型）
embeddings = HuggingFaceEmbeddings(model_name="sentence-transformers/all-MiniLM-L6-v2")


# 設置Groq LLM
model = ChatGroq(
   model_name="llama3-8b-8192",  # 或其他Groq支持的模型
   groq_api_key="YOUR_GROQ_API"  # 如果未通過環境變量設置，則需要在此處指定
)


# 加載文檔
loader = TextLoader("dummy.txt")
data = loader.load()


# 文檔分割
text_splitter = CharacterTextSplitter(chunk_size=1000, chunk_overlap=0)
texts = text_splitter.split_documents(data)


# 向量數據庫
docsearch = Chroma.from_documents(texts, embeddings)


# 檢索鏈
qa = RetrievalQA.from_chain_type(llm=model, retriever=docsearch.as_retriever())


@mcp.tool()
def retrieve(prompt: str) -> str:
   """使用RAG獲取信息"""
   return qa.invoke(prompt)


if __name__ == "__main__":
   mcp.run()

在這段代碼中，我們使用了Groq API來訪問LLM。請確保你擁有Groq API密鑰。??dummy.txt??是你的數據文件，你可以根據需要更改其內容。

第三步：配置Cursor IDE

現在，我們需要將我們的服務器與Cursor IDE進行配置，以便測試我們的服務器。

1. 從Cursor官網下載Cursor IDE。
2. 安裝并注冊，進入主界面。
3. 在頂部工具欄中點擊“文件”，然后選擇“首選項”中的“Cursor設置”。
4. 在Cursor設置中，點擊“MCP”。
5. 在MCP標簽頁中，點擊“添加新的全局MCP服務器”。
6. 打開??mcp.json??文件，并將以下代碼粘貼進去，然后保存文件。

{
 "mcpServers": {
   "rag-server": {
     "command": "/path/to/python",
     "args": [
       "path/to/server.py"
     ]
   }
 }
}

請將??/path/to/python???替換為你的Python可執行文件路徑，將??/path/to/server.py???替換為你的??server.py??文件路徑。

回到Cursor設置，你應該會看到以下界面：

如果看到上述界面，說明你的服務器已經成功運行并與Cursor IDE連接。如果出現錯誤，可以嘗試點擊右上角的“重啟”按鈕。

第四步：測試MCP服務器

現在，我們的RAG MCP服務器已經可以正常工作了，讓我們來測試一下它的功能。

你可以嘗試以下查詢：

• 查詢：“什么是Zephyria？使用rag-server回答。”
• 查詢：“Zephyria星球上的沖突是什么？”
• 查詢：“Zephyria的首都是哪里？”

通過這些查詢，你可以看到服務器如何根據你的問題檢索并返回最相關的信息片段。

六、總結

通過將RAG與MCP相結合，我們可以徹底改變與AI助手的交流方式。它能夠將你的AI從一個簡單的文本生成器轉變為一個像人類一樣思考和處理信息的實時助手。這種集成不僅可以提高你的工作效率，還能隨著時間的推移提升你的工作效果。通過上述簡單的步驟，任何人都可以構建連接到現實世界的AI應用程序。現在，是時候為你的LLM賦予超級能力，搭建自己的MCP工具了！

本文轉載自??Halo咯咯??    作者：基咯咯