近期，Open AI 推出的 Deep Research（深度研究）功能引發了廣泛關注。該功能通過整合大模型、超級搜索和研究助理于一體，使得金融機構能夠一鍵生成報告，科研人員能夠一鍵撰寫綜述，極大提升了效率。然而，由于企業場景中私有化數據的敏感性和成本考慮，如何將 Deep Research 進行開源的本地化部署，成為許多人的關注焦點。

在這篇文章中，我們將對市場上模仿 Deep Research 的開源項目進行簡要分析，并結合 Deepseek 等主流開源模型，Zilliz 推出一款名為 Deep Searcher 的開源項目。該項目的目標是幫助用戶在企業級場景下，基于 Deep Research的思路，實現私有化部署。此外，此方案在現有的RAG（Retrieval-Augmented Generation）方案上進行了重要升級。

GitHub 的嘗鮮鏈接：

??https://github.com/zilliztech/deep-searcher??

1、什么是 Deep Research，為什么需要開源平替？

最近，OpenAI 推出了一款先進的 AI 研究工具——Deep Research，目的是為了幫助用戶更高效地處理復雜的研究工作。這款工具基于 OpenAI 最新的 o3 大模型，特別針對網絡瀏覽和數據分析進行了優化。

第一、核心功能包括：

多階段信息搜集與推理：Deep Research 能夠自動執行多階段的網絡調研，迅速整合網絡上的大量信息，涵蓋文本、圖片和 PDF 文件。

專業報告自動生成：通過分析綜合數百個在線資源，Deep Research 可以在5至30分鐘內生成一份包含詳細引用的專業報告，顯著減少傳統研究所需的時間。

第二、應用場景涵蓋：

學術研究：學者和研究人員可以利用 Deep Research 快速搜集相關領域的深入資料，輔助撰寫論文和進行研究。

市場分析：企業可以使用此工具進行市場調研、競爭分析和產品比較，為商業決策提供支持。

產品評估：消費者可以利用 Deep Research 比較不同產品的特點和評價，做出更明智的購買選擇。

總體而言，Deep Research 作為 OpenAI 推出的深度研究產品，旨在通過自動化的信息搜集和分析，助力用戶高效完成復雜的研究任務。但目前，Deep Research 僅對美國地區的 OpenAI Pro 用戶開放，費用為每月200美元，且每月查詢次數限制為100次。

第三、開源解決方案：

目前，大多數用戶尚無法使用 OpenAI 的 Deep Research 功能。不過，自從 OpenAI 發布該功能后，許多開源社區的貢獻者開始分析并嘗試復現這一功能。

GitHub 上已經出現了多個開源方案，它們的實現流程大致分為以下四個步驟：

第一步，問題分析：大模型分析用戶提出的問題，確定回答問題所需的角度和步驟。許多大型模型（比如：DeepSeek、ChatGPT、Gemini 等）只需開啟推理選項即可完成這一過程。

第二步，在線搜索：根據大模型生成的問題進行在線搜索，獲取搜索結果的前 k 項，并將內容反饋給大模型。

第三步，內容總結：大模型根據在線內容生成簡潔的答案。

第四步，答案驗證：將所有內容匯總后，由大模型判斷答案的完整性和準確性。

如果答案完整且準確，則輸出最終答案。如果達到預設的循環次數或 token 上限，同樣輸出最終答案。否則，生成新問題，返回第一步，并將歷史解決信息帶入下一輪循環。

2、相比傳統 RAG，Deep Research 有何亮點與不足

相較于之前的 RAG（Retrieval-Augmented Generation）方案，新方案實現了以下三個方面的創新：

第一、判定邏輯：通過引入額外的判定邏輯，提升了答案的精確度。Deep Research 利用多源驗證、邏輯推理等質量控制手段，確保了研究成果的可靠性，并有效避免了傳統 RAG 中常見的無目的檢索和過度檢索問題。與傳統的 RAG 相比，Deep Research 在信息整合和驗證方面更為嚴謹。

第二、以搜索結果為核心：答案主要基于搜索結果而非單純依賴大模型的生成。大模型的作用在于內容匯總和相關性判斷，從而增強了答案的可靠性。

第三、深度思考與處理復雜任務：Deep Research 能夠模仿人類研究員進行多階段的網絡研究，理解信息、整合資源，并根據新發現調整研究策略。這種自主進行多步驟問題解決的能力，是普通 RAG 所不具備的。

雖然這些優勢顯著，但 Deep Research 也存在一些不足。從前面提供的方案中可以看出，Deep Research 的響應速度較慢，對計算資源和網絡環境的要求也更高。更重要的是，其答案的主要信息來源依然是公開的網絡搜索結果。

然而，在大多數企業場景中，真正有價值的數據通常是企業的內部數據，這些數據無法通過在線搜索獲取，也不適合上傳至大模型以避免隱私泄露的風險。此外，在線搜索引擎的結果可能包含誤導性信息（比如：廣告），且一些小眾搜索引擎可能存在搜索延遲。

鑒于此，在多數企業級應用場景中，采用基于 Deep Research 思路的私有化部署可能是一個更佳的選擇。

接下來，我們將以 Deep Searcher 為例，展示如何結合開源項目和本地數據，實現一個升級版的 Deep Research本地部署。

3、如何針對私有數據，做 Deep Research

以下是基于多數開源 Deep Research 方案改進后，Zilliz 推出的 Deep Searcher 開源實現方案的架構圖：

從圖中可以看出，Deep Searcher 通過集成向量數據庫 Milvus，實現了對用戶本地存儲數據的快速、低延遲的大規模離線搜索。

Deep Searcher 的實現步驟如下：

第一步，問題解析：在接收到用戶提問后，利用 LLM（Large Language Model）對問題進行分析，生成多個子問題，并明確每個子問題對應的數據集。

第二步，信息檢索：根據 LLM 的分析結果，在向量數據庫中檢索相關信息。需要注意的是，向量數據庫中的數據是離線存儲的，因此在執行查詢之前，需要先將數據導入數據庫。這些數據可以是企業內部數據、在線下載的數據，或者是其他系統中定期導入的數據。

第三步，內容判斷：向量數據庫檢索到相似信息后，將用戶的原始問題、子問題及其對應的搜索結果一同提交給大模型進行內容判斷。

如果問題已經得到完整回答，則進入最終回答階段。

如果達到預設的循環次數或 token 上限，同樣進入最終回答階段。

否則，大模型將生成新的問題，并繼續下一輪循環。

方案亮點包括：

（1）私有數據利用：充分挖掘私有數據的價值，更好地與大模型結合。

（2）向量數據庫優勢：發揮向量數據庫在處理大規模數據、低延遲搜索、多種索引策略、高可用性和資源彈性管理等方面的優勢。

（3）數據管理：通過向量數據庫高效管理私有數據，對不同類型的數據進行分庫分表，支持多種應用，最大化數據價值，降低管理成本。

值得注意的是，為了更有效地保護私有數據，建議使用離線 LLM 大模型。如果使用 LLM API，即使僅返回部分檢索數據，仍然存在數據泄露的風險。

4、Deep Searcher 落地效果

遵循上述思路，Deep Research 的本地部署開源版本——Deep Searcher，現已在 GitHub上 開放源代碼，項目鏈接為：??https://github.com/zilliztech/deep-searcher。??

當前項目功能包括：

第一、LLM 支持：支持 DeepSeek 官方版本、DeepSeek 硅基流動、DeepSeek TogetherAI、OpenAI。

第二、Embedding 模型支持：支持 Pymilvus 內置模型、OpenAI Embedding、VoyageAI Embedding。

第三、數據 Loader 支持：支持離線文檔（比如：PDF、Markdown、TXT）、在線文檔（可通過 FireCrawl、JinaReader、Crawl4AI 獲取）。

第四、向量數據庫支持：支持 Milvus、Zilliz Cloud（注冊后即可免費體驗，注冊地址：https://cloud.zilliz.com.cn/login 或 https://cloud.zilliz.com/）。

最終效果預覽如下：

GitHub 項目——Deep Searcher：??https://github.com/zilliztech/deep-searcher。??項目正處于快速迭代階段。

本文轉載自公眾號玄姐聊AGI  作者：玄姐

原文鏈接：??https://mp.weixin.qq.com/s/SsBKmVIP4ccF21G01qlTxQ??