最近，關于“AI是否會搶走我們的工作”的討論鋪天蓋地。從華爾街精英到普通白領，人人都彌漫著一股“飯碗焦慮”。亞馬遜CEO安迪·賈西最近也給員工敲響了警鐘，直言未來很多重復性崗位將被取代。說實話，技術取代舊崗位，創造新崗位，這是幾百年來顛撲不破的規律，并不值得大驚小怪。然而，一個更隱蔽、更深遠的危險，正像溫水煮青蛙一樣悄然逼近：我們對AI的過度依賴，可能會親手“廢掉”我們的大腦，催生出一代缺乏獨立思考能...

我們已經看到，大模型應用已經從簡單的問答向復雜的智能體系統轉變。與之匹配的，技術焦點也正從早期的提示工程（PromptEngineering），即如何巧妙地向模型提問，迅速轉向一個更進階的領域——上下文工程（ContextEngineering）。在模型能力日益強大的今天，決定應用成敗的關鍵，已不再是“如何問”，而是“為模型提供什么樣的信息”。這正是上下文工程的核心。大多數情況下，當一個智能體表現不可靠時，其根本原因并非模型本身...

大模型到底會不會真的思考？這一疑問一直縈繞在人們心中。作為LLM的反對派YannLeCun又拿出了新證據。他參與的最新研究《FromTokenstoThoughts:HowLLMsandHumansTradeCompressionforMeaning》（從詞元到思想：大模型與人類在壓縮與意義之間的權衡）用信息論的全新視角，揭示了大語言模型（LLM）與人類在“理解世界”這件事上的本質差異。人類大腦在處理信息時，善于將紛繁復雜的感知和經驗，壓縮成簡潔而有意義的“概念”。比如...

在模型性能越來越強且趨同的大背景下，知識庫、工具成為了AI應用的差異性壁壘。MCP就是規范Agent與工具的交互而產生。但MCP協議本身還比較簡單，在實際生產中，Agent如何與海量的、異構的外部軟件和服務進行有效、安全的連接與操作以及如何管理海量的MCPServer就是一大挑戰。傳統上為每個Agent單獨開發和維護工具接口及認證邏輯的方式，其復雜性和低效性已成為制約AIAgent能力規模化擴展的因素之一。因此，針對這一挑戰，很多公...

在最近的文章中，筆者介紹了影響Context高質量供給的關鍵因素有記憶的存用和記憶的連貫性。而對記憶源信息（尤其是復雜文檔）的深度理解是高質量Conext供給的又一大關鍵。傳統的文本提取和分塊方法，在面對圖文混排、表格遍布的文檔時，往往力不從心，生成的Context質量堪憂，這已成為提升RAG應用性能的一大瓶頸。我們都曾經歷過這樣的“噩夢”：精心構建的RAG系統，因為OCR識別錯誤、表格內容丟失、或者圖片信息被忽略，導致LL...

在最近文章中，筆者反復提到context的重要性（歡迎關注查閱）。而供給高質量的Context的關鍵就是記憶的存用和記憶的連貫性。mem0就是一個專注構建大模型記憶的項目，在此前文章也有介紹（???大模型的“記憶”不應僅僅只依靠向量數據庫，mem0是一個很好的“融合架構”實踐方向???）。在此之前它們推出一個插件（???Mem0上架chrome插件商店，把記憶交給AI！???）解決在一個工具里多次交流的長期記憶問題，最近OpenAI...

近一階段，強化學習成為進一步提升大模型能力的共識路徑，這時候，你是不是也覺得，給大模型套上強化學習（RL）的韁繩，再用上那些能自動驗證對錯的獎勵機制（RLVR），就能讓它們像打了雞血一樣，推理能力蹭蹭往上漲，實現模型自我進化，“左腳踩右腳”不斷飛升。然而，清華大學近期的一項研究《DoesReinforcementLearningReallyIncentivizeReasoningCapacityinLLMsBeyondtheBaseModel（強化學習真的會激勵LLMs基模型之外的推理...

還記得2023年初ChatGPT剛出來時，讓它30秒寫一個“冒泡排序”都覺得很新鮮？彈指之間，今天的AIagent已經能自主幾分鐘內啃下人類程序員需要一小時乃至一天才能完成的需求了。感覺AI進步太快跟不上？這可不是錯覺。專注于AI能力評估的METR機構扔出重磅研究：AI系統能搞定的編碼任務復雜度（以人類所需時間衡量）正以驚人的指數速度增長，其“時間范圍”（TimeHorizon）——即AI能達到50%成功率的任務時長——大約每7個月就翻一番...

目前，很多的使用MCP的案例都是基于Cursor，ClaudeDesktop等客戶端展開的，那么如何在現有的系統里通過代碼集成呢？今天，介紹一個很不錯的MCP客戶端庫mcpuse，集成非常簡單，僅需6行代碼即可創建第一個支持MCP的Agent，可與任何支持工具調用的Langchain支持的LLM（OpenAI、Anthropic、Groq、LLama等）配合使用，不僅支持本地MCPServer，還支持sse協議下的遠程MCP服務器，這樣就可以和Dify這樣框架集成（??Dify也支持MCP了！...

OpenAI發布了其最新的人工智能推理模型：o3和o4mini。o3被譽為該公司迄今“最強大的推理模型”，在數學、編程、推理、科學及視覺理解等多個基準測試中刷新了記錄，尤其擅長處理需要多角度分析的復雜查詢和視覺任務，并在實際應用中顯著減少了錯誤。與此同時，o4mini作為一款更小巧、快速的模型，旨在提供具有競爭力的價格、速度和性能平衡。它在保持低成本的同時，在數學（如AIME基準測試近乎滿分）、編程和視覺任務上表現卓越...

最近，以deepSeekR1為代表的推理模型成為熱點，他們可以展示自己的思考過程，一步步解決復雜的問題，讓原本黑盒模型變得具有可解釋性，同時也為AI安全研究提供了窗口，便于發現潛在的不良行為。但一個核心問題是：我們能相信AI思維鏈中呈現的內容嗎？理想的思維鏈應既易懂又“忠誠”（Faithful），即真實反映模型的思考過程。然而，現實中我們無法保證這一點。模型可能無法用人類語言完全表達其內部決策，甚至可能故意隱藏部分...

昨日，AI屆“汪峰”Qwen團隊發布了Qwen2.5VL32BInstruct，作為Qwen2.5VL系列模型的最新迭代，通過強化學習優化，以32B參數規模擊敗上代72B版本，展現出其更智能和輕量級的突出特點。較前代模型在以下方面有了顯著改進：更符合人類偏好的回答：調整輸出風格，提供更詳細、格式更好的答案，更貼近人類偏好。數學推理能力提升：在解決復雜數學問題方面，準確性得到顯著提高。精細圖像理解和推理：在圖像解析、內容識別和視覺邏輯推...

DeepSeek在領域內獲得廣泛關注的核心在于R1Zero僅通過強化學習（RL）便成功實現了推理能力的涌現，即發現Ahamoment。那么，在多模態領域，是否也能獲得借鑒R1Zero的思路呢？今天介紹的VisionR1就是這一方面的探索的代表，其目的就是研究如何有效利用RL來增強多模態大型語言模型（MLLM）的推理能力。然而，研究團隊發現，由于缺乏大規模、高質量的多模態推理數據，直接應用RL訓練MLLM在激發其深層推理能力（如提問和反思）方面面...

OpenAI昨晚宣布推出其最新的預訓練模型GPT4.5，這是一款在規模和知識水平上均達到新高度的產品，被OpenAI譽為其“迄今為止最大、知識最淵博的模型”，標志著無監督學習的又一次重大飛躍。GPT4.5目前作為研究預覽版，向ChatGPTPro用戶和開發者開放，預計下周將向Plus用戶和其他用戶開放。核心更新與特點預訓練規模顯著提升：GPT4.5的預訓練計算規模大約是GPT4的10倍，帶來性能的全面提升。在性能甚至超過了一些推理模型，如gemin...

英偉達工程師最近用DeepSeekR1模型加上“推理時擴展”技術，讓AI自動生成GPU核心代碼，也就是GPU內核。更讓人驚訝的是，有些AI生成的代碼甚至比工程師寫的還要好！隨著AI模型處理越來越復雜的任務，它們對計算資源的需求也在不斷增長。GPU內核作為執行計算任務的關鍵部分，其優化程度直接關系到模型的性能。然而，傳統的內核優化需要大量時間和專業知識，效率低下。NVIDIA工程師們采用了DeepSeekR1模型，這是一種開源的AI模型，...

xAI近日宣布推出Grok3，這是繼Grok2之后的又一重大更新。Grok3在性能上實現了顯著提升，據ElonMusk透露，其能力比Grok2提升了整整一個數量級。Grok3的發布得益于200K個GPU的計算能力，這一數字在短短92天內翻倍。Grok3的訓練量是Grok2的10倍，并在一月份完成了預訓練。這一模型仍在不斷訓練中，預示著其未來性能的持續提升。在性能基準測試中，Grok3在同類模型中表現出色，顯著超越了Gemini2Pro和GPT4o等模型。即使是Grok3mini...

OpenAI的CEOSamAltman在社交媒體上分享了關于GPT4.5和GPT5的最新進展。OpenAI承認目前的產品線對用戶來說過于復雜，因此他們正在努力簡化產品，目標是讓AI能夠“開箱即用”。GPT4.5(內部代號為Orion)將會是最后一個“非思維鏈模型”，而GPT5則將整合包括o3在內的多項技術，成為一個集大成者。未來，OpenAI將不再單獨發布o3模型。為了讓更多人體驗到AI的強大功能，免費版ChatGPT用戶將可以在標準智能設置下無限次使用GPT5，當然...

OpenAI前研究員AndrejKarpathy最近提出了一個新穎的編程概念——"vibecoding"(氛圍編程)。這是一種依托大語言模型(LLM)的全新編程方式,讓開發者能以更輕松自然的方式完成編程任務。這種編程方式的核心在于完全沉浸于編程的“感覺”中，甚至忘記了代碼的存在。vibecoding有以下特點：極簡交互開發者只需通過語音或文字描述需求無需深入代碼細節大量使用"AcceptAll"等快捷操作LLM驅動依托CursorComposer等AI編程工具結合SuperWhis...

2024年，vLLM完成了從專業推理引擎到開源AI生態系統標配解決方案的蛻變。這一年，項目在各個維度都實現了顯著增長：GitHub星標數從14,000增至32,600，貢獻者數量從190擴展到740，月下載量從6,000激增至27,000，近半年的GPU使用時長更是增長了約10倍。這些數據印證了vLLM在AI基礎設施領域的領先地位，已成功為亞馬遜Rufus和領英等大型產品提供核心支持。2024年重要成就社區建設與生態發展2024年，vLLM建立起了一個充滿活力的開源...

近日，HuggingFace最近開源的一個Agent項目：smolagents。相較于其它框架，它的理念和實現都比較簡單。基于python開發，核心設計理念是“少即是多”。相比市面上動輒幾萬行代碼的Agent框架，它保持了極簡的風格，核心代碼僅有數千行，但功能卻毫不遜色。HuggingFace團隊希望通過這種方式，降低Agent開發的門檻，讓更多開發者能夠快速上手。設計亮點smolagents的最大亮點在于其對“代碼Agent”的原生支持。這意味著Agent的行為將...