函數調用(functioncalling)是一種機制,允許大語言模型(LLM)通過調用外部函數或API執行特定的、預定義的任務。可以將其視為一種功能,讓LLM將它無法獨立完成的工作“委托”出去。例如,假設您向LLM發送以下提示:“特斯拉當前的股價是多少?”沒有函數調用的基本LLM可能會根據其訓練數據中的模式“幻覺”出一個答案,例如“可能在200美元左右”。經過RLHF優化的模型可能會更誠實地說:“我沒有實時數據,所以無法告訴你。”...
2025年的RAG大反思我們的目標不是抨擊RAG(它仍有其用武之地!),而是通過一個實際案例來探索2025年的技術趨勢。我們將構建一個傳統上會使用RAG的系統,但采用一種完全不同的、越來越流行的方法。通過本文,你將了解:?為什么“直接訪問源數據”的方法(gotosource)因工具調用(toolcalling)和模型上下文協議(MCP)而逐漸受到關注。?RAG仍然適用的場景(劇透:比你想象的少)。?如何構建一個用戶喜愛的實用替代方案。?...
在網絡擁有HyperTextTransferProtocol(HTTP)之前,在電子郵件擁有SimpleMailTransferProtocol(SMTP)之前,我們受困于定制化集成、碎片化系統和脆弱的工作流程。直到開放協議和共享基礎設施出現,互聯網才真正實現規模化,解鎖了現代網絡、全球通信和整個經濟體系。如今,AI代理正處于類似的預標準化階段。它們功能強大、能力卓越且數量迅速增長,但它們無法協同工作。一個代理分析數據,另一個起草代碼,第三個自動化CRM工作流...
2025-06-06 10:17:17 809瀏覽 0點贊 0回復 0收藏
AI代理簡介你可能聽說過“生成式AI”這個術語——但什么是AI代理?本質上,它們是利用高級語言模型來更自主地處理任務的下一代工具。它們能夠解析用戶查詢,挑選相關信息,并以結構化的方式與外部服務交互。上圖展示了AI如何從基本的生成模型發展到能夠與各種工具協作的復雜AI代理。PydanticAI簡介PydanticAI是一個Python代理框架,旨在簡化利用生成式AI開發生產級應用的流程。由Pydantic背后的團隊開發——Pydantic是許多Pytho...
2025-05-26 01:32:09 843瀏覽 0點贊 0回復 0收藏
隨著大語言模型(LLM)的發展,AI的「推理能力」正以前所未有的速度突破。然而,很多企業級檢索系統卻依舊停留在簡單的關鍵詞匹配階段,難以支持真正意義上的“深度知識發現”。LightOn最新發布的開源模型ReasonModernColBERT,正是為了解決這一瓶頸——讓檢索系統具備推理能力,支撐AgenticRAG與深度研究場景。檢索系統的“三個進化階段”你了解嗎?信息檢索系統的發展,其實可以劃分為三個階段:1??Level1:關鍵詞匹配(Key...
2025-05-26 01:25:18 1517瀏覽 0點贊 0回復 0收藏
今天給大家分享一篇非常出色的綜述論文,總結了當前MultiAgentEmbodiedAI(多智能體具身智能)的研究進展。這篇文章不僅回顧了超過300篇相關論文,還從多個角度探討了這個快速演化的領域將如何影響我們對智能體未來的構建方式。為什么MultiAgentEmbodiedAI很重要?當前的大多數研究仍然集中在單一智能體的范式上。但我們所生活的真實世界卻遠比“一個智能體”復雜得多——它是開放的、異質的、動態變化的。這篇綜述論文強調了協...
2025-05-12 07:20:56 799瀏覽 0點贊 0回復 0收藏
在眾多RAG方法中,NodeRAG以其獨特的圖結構框架脫穎而出。NodeRAG通過異構圖結構和先進的檢索機制,為LLM提供更精準、更高效的外部知識支持。本文將深入介紹NodeRAG的核心特性、優勢及其在多個領域的卓越表現。什么是NodeRAG?NodeRAG是一種以圖為中心的RAG框架,旨在通過異構節點結構化基于圖的檢索增強生成。它將文檔和LLM提取的信息分解為多種類型的節點(如實體、關系、語義單元、屬性、高層次元素、概覽和文本),并利用圖...
2025-04-27 00:17:05 863瀏覽 0點贊 0回復 0收藏
當前,我們正處在Agent開發的‘工程化轉折點’。打造一個真正“可上線”的Agent系統,不再只是拼接組件,而是圍繞四個核心模塊進行有機組合。在大模型持續進化的今天,Agent成為很多人眼中的“超級助手”,從代碼編寫到數據分析、從網頁問答到知識檢索,它無所不能。但如果你嘗試親自“造一個Agent”,很快會發現一個現實問題:框架太多,套路太雜,效果卻難以復用上線。這是因為,大多數教程和開源項目,講的是功能拼接,但真...
2025-04-27 00:13:44 2655瀏覽 0點贊 0回復 1收藏
在這篇文章中,我將介紹如何使用LangGraph、AgenticRAR、NanoGraphRAG以及Claude3.7Sonnet來創建一個基于智能推理(AgenticRAR)的聊天機器人,看完這篇文章之后你就學會了如何為你的業務打造一個強大的智能推理聊天機器人。我首先向你展示一下聊天機器人的效果:“生成代碼,檢查以下數字是否為回文數:123、121、12321、12345、123454321。”當用戶提出問題時,初始推理Agent會對其進行分析,識別需要哪些專業Agent,并檢測特...
2025-04-15 06:54:22 1270瀏覽 0點贊 0回復 0收藏
在當前生成式模型與信息檢索技術快速發展的背景下,如何有效結合二者,提升問答系統的準確性與實用性成為技術探索的焦點。為了尋找最佳解決方案,我嘗試了18種不同的RAG(RetrievalAugmentedGeneration)技術,從最基礎的方法到復雜的多模型融合。經過大量實驗,數據表明AdaptiveRAG憑借動態調整策略和出色的檢索效果,以最高得分0.86成為本次實驗中的大贏家。接下來,我將詳細介紹每種RAG技術的核心思想、實現細節以及優缺點,...
2025-04-02 00:36:54 1704瀏覽 0點贊 0回復 0收藏
AI系統正逐步獲得在現實世界中獨立行動的能力。過去一年,我們在推理、計算機控制和記憶系統方面取得了重大進展,這些技術推動了這一轉變。本文分析了這些發展的技術基礎、不同領域中AIAgent的現狀,以及確保其可靠性所需的基礎設施。我們將探討推動這一變革的技術進步,以及尚待解決的挑戰。第一部分:巨大的轉變——從模型到Agent2024年,我們見證了AIAgent關鍵能力的崛起。OpenAI的o1和o3模型表明,機器可以分解復雜任務。Cl...
2025-03-21 07:51:26 2131瀏覽 0點贊 0回復 0收藏
LLMReasoner是一個庫,它讓任何LLM(大模型)都能像OpenAIo1和DeepSeekR1一樣深入思考。?主要特點??循序漸進的推理:不再有黑箱答案!準確了解LLM是如何思考的,類似于O1的系統方法??實時進度:通過流暢的動畫觀看推理的展開??多提供商支持:與LiteLLM支持的所有提供商兼容??精美的UI:一個漂亮的Streamlit界面可供使用???高級用戶CLI:無縫嵌入你的代碼??信心跟蹤:了解LLM對每個步驟的確定程度??快速開始首先安裝:pipinsta...
2025-03-11 01:36:56 2059瀏覽 0點贊 0回復 0收藏
隨著LLM應用的廣泛普及,如何提高模型的推理效率并降低資源消耗成為了技術發展中的一大挑戰。Unsloth通過引入多個強化學習(RL)算法和最新的量化技術,顯著提高了LLM在推理和微調過程中的性能,并大幅降低了顯存消耗。DeepSeek的研究人員在用純強化學習(RL)訓練R1Zero時觀察到了一個“靈光一現”的時刻。模型學會了通過重新評估最初的思路來延長思考時間,而無需任何人工指導或預定義指令。Unsloth對整個GRPO過程進行了增強...
2025-02-11 13:48:58 3881瀏覽 0點贊 0回復 0收藏
整個過年期間,AI圈的頭條都被被DeepSeek霸占了。2月1日,OpenAI終于按捺不住,推出了全新的推理模型系列o3mini。這個系列不僅首次對免費用戶開放了推理模型,還將成本降低了多達15倍(相比之前的o1系列)。OpenAI還表示,這是其推理模型系列中最新且最具成本效益的模型:最近,AI社區非常熱衷于將DeepSeekR1與其他推理模型進行對比。尤其是經典的編程挑戰——模擬彈跳球:“WriteaPythonscriptthatmakesaballbouncewithinacert...
2025-02-03 22:13:08 2324瀏覽 0點贊 0回復 0收藏
LLM(LargeLanguageModel,大型語言模型)是一個功能強大的新平臺,但它們并不總是使用與我們的任務相關的數據或者是最新的數據進行訓練。RAG(RetrievalAugmentedGeneration,檢索增強生成)是一種將LLM與外部數據源(例如私有數據或最新數據)連接的通用方法。它允許LLM使用外部數據來生成其輸出。要想真正掌握RAG,我們需要學習下圖所示的技術(技巧):圖片這個圖看起來很讓人頭大,但是不用擔心,你來對地方了。本系列教程...
2025-01-17 13:06:08 3199瀏覽 0點贊 0回復 0收藏
隨著AI,尤其是LLM的迅猛發展,AIAgent正成為變革性工具,重新定義SaaS(SoftwareasaService,軟件即服務)平臺的運營模式、價值交付以及用戶交互方式。到2025年,AIAgent不僅會增強現有系統,還將推動全新商業模式的誕生。垂直AIAgent:超越傳統SaaS的新范式近年來,垂直AIAgent(VerticalAIAgents)的概念備受關注。這些專為特定行業和場景設計的Agent,可能引發比傳統SaaS更深遠的轉變。據YC的Lightcone播客指出,這一領域將...
2025-01-09 13:02:45 2582瀏覽 0點贊 0回復 0收藏
AI正以前所未有的速度進化,OpenAI的o3模型短短兩個月內便從本科生水平躍升至博士級別,這一突飛猛進的進展讓人震驚,但這一趨勢已不可逆轉。AI搜索公司Exa的CEOWillBryk在X上發表了一篇探討AI的迅猛發展及其對未來社會、工作領域的深遠影響的長文:《ThoughtsontheeveofAGI》(AGI前夜的思考)。1.AI發展迅速:從本科生到博士級別的進化?AI從本科水平到博士水平的快速躍升,進展速度令人震驚。OpenAI的o3模型展示了AI的巨大潛...
2024-12-31 13:23:27 3013瀏覽 0點贊 0回復 0收藏
LazyGraphRAG是微軟最新推出的一種與GraphRAG截然不同的方法,該方法不需要事先匯總源數據,從而避免了前期索引成本,而前期索引成本對于某些用戶和用例來說可能是難以承受的。LazyGraphRAG的一個關鍵優勢是其在成本和質量方面的固有可擴展性。與標準向量RAG、RAPTOR、GraphRAG和DRIFT相比,LazyGraphRAG在成本質量范圍內表現出色,如下所示:LazyGraphRAG數據索引成本與向量RAG相同,僅為完整GraphRAG成本的0.1%。對于與向量RA...
2024-12-24 10:55:40 2943瀏覽 0點贊 0回復 0收藏