最近AI圈子里有兩個詞特別火：AIAgent和AgenticAI。乍一看好像就是一個詞的不同寫法，但實際上這兩者有著天壤之別。說實話，連我這個在AI領域摸爬滾打多年的人，在很長一段時間里也沒完全搞清楚它們的區別。直到前不久讀了康奈爾大學剛發表的一篇重磅論文《AIAgentsvs.AgenticAI:AConceptualTaxonomy,ApplicationsandChallenges》，才算是徹底明白了。這種感覺就像是突然有人幫你把一團亂麻給理順了，瞬間豁然開朗。如果非要用...

最近刷到了一篇來自CognitionAI的博客文章，看完之后我簡直有種恍然大悟的感覺。這家公司你可能聽說過，就是那個開發了明星AI編程助手Devin的團隊。他們在這篇文章里直接開懟了一個在AIAgent領域特別流行的概念——多智能體架構，說得相當犀利："別再搞多智能體了！"讀完這篇文章，我覺得有必要跟大家"叨叨"一下，因為這些觀點可能會顛覆很多人對AIAgent架構設計的認知。為什么大家都在搞多智能體？現在一提到AIAgent，很多人第...

你有沒有想過，當ChatGPT回答你的問題時，它的“大腦”里到底裝了多少東西？最近，來自Meta、谷歌DeepMind、康奈爾大學等機構的研究人員發表了一項突破性研究，首次精確測量出了大語言模型的“記憶容量”。這項研究不僅揭示了AI學習的奧秘，還解釋了許多我們日常使用中遇到的現象。什么是模型的“記憶”？想象一下你在準備考試。有些知識你是真正理解的，比如數學公式的推導原理，遇到新題目時你能靈活運用；而有些內容你只是死...

1.引言大型語言模型(LLMs)在訓練過程中從龐大的知識語料庫(如維基百科)中獲取了大量的事實知識，并在各種自然語言任務中展現出卓越的性能。因此，LLMs常被視為支撐知識導向任務的知識庫。然而，要有效利用這些模型中的知識，需要深入理解LLMs存儲和管理事實知識的機制。這種理解對于模型編輯等任務至關重要，這些任務涉及修改模型中嵌入的知識。當前的研究主要集中在研究LLMs中嵌入的知識。這些工作將知識視為三元組(s，r，o)，...

上手體驗了一波Manus，感覺沒有鼓吹的那么神，也不能被貶的一無是處，感覺Manus更像是想博出名的秀才，有料，但過火了。下面通過一個Manus的個人使用案例講講，對于Manus的體驗吧，力求既不迷信技術，也不排斥革新。根據我的任務，自動生成部署的網址：??https:cshqyrrh.manus.space。??通過親手體驗ManusAIAgent的驚人能力，我感受到它在任務自動化、效率提升上的顛覆性潛力，但也意識到，即便它智能如斯，局限與挑戰依然...

引言可重復性是科學進步的基石，然而在機器學習領域，許多已發表論文并未附帶相應的代碼實現，阻礙了結果驗證并延緩了科研進程。為了解決這一難題，KAIST與DeepAuto.ai的研究團隊提出了PaperCoder——一種自動化框架，能夠從機器學習研究論文中直接生成可執行的代碼庫。PaperCoder框架概述圖1：PaperCoder的三階段流程，展示了如何通過規劃、分析和編碼，將論文轉換為完整的代碼庫。相比于依賴現有代碼片段或API的傳統方案，Pap...

簡介學術寫作對人工智能系統提出了獨特的挑戰，尤其是在準確且在上下文中適當整合引文方面。雖然大型語言模型（LLM）可以生成流暢的學術文本，但它們經常遭受引文幻覺——捏造或錯誤歸屬參考文獻——這嚴重限制了它們在學術環境中的用途。論文“ScholarCopilot：訓練大型語言模型以使用精確引文進行學術寫作”介紹了一種旨在解決這些局限性的新型框架。ScholarCopilot由滑鐵盧大學、卡內基梅隆大學和Vector研究所的研究人員開發...

近年來，大語言模型（LLM）像春筍般涌現，不僅能寫文案、答問題、編代碼，還能陪你聊天。但如果你深入接觸，就會發現這些模型有一個“天生的短板”——它們不知道世界在今天發生了什么，也不能靈活地從外部獲取信息。這就像你在問一個上知天文下知地理的老師問題，但他只看過2021年前的書，后面的都不知道。于是，RAG（RetrievalAugmentedGeneration）出現了，它的基本思想是：“我不知道不要緊，我去資料庫里查一查。”但傳統R...

介紹大型推理模型(LRM)在解決復雜問題方面表現出了令人印象深刻的能力，但它們常常難以處理人類憑直覺就能解決的簡單任務。這種悖論是名為S1Bench的新基準測試的核心，該基準測試專門針對評估LRM中的“系統1”思維能力。與大多數側重于復雜推理任務的現有基準測試不同，S1Bench考察了LRM如何有效地處理簡單、直觀的問題，這些問題應該只需要最少的思考。該基準測試表明，當前的LRM傾向于“過度思考”簡單問題，從而導致效率低下...

1.RAG技術現狀與核心挑戰1.1技術架構解析RAG（RetrievalAugmentedGeneration）系統采用雙階段架構：檢索模塊：基于稀疏檢索（BM25）、密集檢索（DPR、ANCE）或混合檢索，使用FAISSHNSW構建向量索引生成模塊：基于Transformer架構的預訓練語言模型（如ChatGPT、Qwen），通過CrossAttention融合檢索結果典型RAG偽代碼示例retrieverDenseRetriever(indexfaissindex)generatorT5ForConditionalGeneration.frompretrained(...)defrag...

當我們談論人工智能時，很容易被各種新聞標題所影響——有人說它將徹底改變世界，有人擔憂它會奪走我們的工作。在這些熱烈討論的背后，一個更為重要的問題是：人工智能將如何影響我們的經濟？這不僅關乎我們的工作，更關乎整個社會的運轉方式。回顧歷史，人類社會曾多次經歷技術革命——從蒸汽機到電力，從計算機到互聯網。每一次技術變革都重塑了經濟結構。如今，我們或許正站在另一個歷史性轉折點上。但與之前的技術革命一樣...

公元1943年，麥卡洛克與皮茨在芝加哥大學密室中繪制出"神經網絡符篆"，點燃了硅基文明的第一縷火種。此符篆暗合陰陽二進之道，雖僅能解"與或非"三式，已令圖靈真人撫掌長嘆："此物當有通靈之日！"這一年，華羅庚道人在普林斯頓隱居，馮·諾依曼大師正筑"存儲程序結構"根基。世人尚不知，一場跨越物種的智慧革命已悄然啟動。公元1950年，劍橋雨夜。圖靈真人披著雨衣穿過哥特式回廊，手中《ComputingMachineryandIntelligence》墨...

一、模型概述與架構分析DeepSeekR1是一款全新的大規模語言模型系列,支持復雜推理、多模態處理和技術文檔生成。其核心特點包括:1.架構特性?支持多種精度訓練和推理(FP8BF16INT8INT4)?采用MoE(MixtureofExperts)架構實現671B超大規模?支持混合精度訓練和推理優化2.模型系列規格模型名稱參數規模計算精度模型大小典型應用場景DeepSeekR1671BFP81,342GB超大規模科研計算DeepSeekR1DistillLlama70B70BBF1643GB大規模推理任務DeepS...

可能我們經常會遇到這樣的場景：老板在會上講了一段話，語音識別系統卻把關鍵的數字、人名識別錯了；客服系統把用戶說的"預約掛號"聽成了"我要掛了"；方言用戶的語音指令被系統曲解成了完全不相關的內容。這些問題背后折射出的是語音識別技術在特定場景下的短板尤其是在處理低資源語言時表現更為明顯。近期，沙里夫理工大學的研究團隊提出了一個頗具創新性的解決方案：GECRAG。這個方案通過檢索增強的方式來提升語音識別的準確...

近期，DeepSeek的發布在開源社區引起了廣泛關注。成功再次將人們的目光聚焦到了模型蒸餾技術上來。那么，究竟什么是模型蒸餾？為什么它能幫助我們構建如此高效的模型？讓我們一起深入探討這個話題。LLMDistillation將大型生成模型定位為“teacher”，將較小的模型定位為“student”。student模型可以是簡單的模型（如logisticregression）或基礎模型（如BERT）。在最基本的distillation版本中，數據科學家從未標記的數據開始，...

你有沒有想過，是什么讓AI模型變得如此強大？為什么有些AI能夠寫詩作畫，有些卻只能做簡單的問答？這其中，ScalingLaw（規模法則）扮演著至關重要的角色，它就像AI模型的核心，揭示了模型性能提升的奧秘。ScalingLaw是什么？簡單來說，ScalingLaw指的是當我們增加模型的規模（例如模型包含的參數越多，模型就越大）、訓練數據量和計算資源時，模型的性能就會隨之提升。（感覺這是符合直覺的，但ScalingLaw最核心的在于量化給出...

原文：RetrievalAugmentedGeneration(RAG)andBeyond:AComprehensiveSurveyonHowtoMakeyourLLMsuseExternalDataMoreWisely每當我向非技術背景的朋友解釋大語言模型時，我常常用"博學但缺乏實踐經驗的應屆生"作比喻。這些模型確實掌握了海量的知識，但在特定領域的實際應用中，常常會暴露出"經驗不足"的問題。就像一位剛畢業的法學生，雖然能流暢地背誦法條，但面對真實的案件時可能會覺得無從下手。微軟亞洲研究院的研究團隊近期...

語音轉文本（STT），也稱為自動語音識別（ASR），是一種將口語轉錄成書面文本的AI技術，現在越來越多的公司利用STT在現有應用程序中嵌入新的音頻功能，并為一系列用例創建智能助手。語音轉文本模型簡史首先，一些背景信息。語音轉文本是AI中自然語言處理（NLP）分支的一部分。它的目標是使機器能夠理解人類語音并將其轉錄成書面格式。你可能會想，轉錄語音有多難。簡短的回答是：非常難。與可以以相對簡單的方式放入矩陣中的圖...

本文旨在解釋多模態大語言模型的工作原理。此外，還將回顧并總結最近幾周發布的十幾篇多模態研究論文和模型（包括Llama3.2）的內容，以比較它們的不同實現方式。一、多模態大語言模型是什么？多模態大語言模型（MultimodalLargeLanguageModels，簡稱MultimodalLLMs）是一種能夠理解和生成多種類型數據的模型，包括文本、圖片、音頻和視頻等。這些模型可以跨越不同的數據形式，進行信息的交互與生成。例如，傳統語言模型只能處理...

“這段代碼明明是對的啊，為什么ChatGPT還給出了錯誤的解釋？我都把相關文檔放進去了！”“用戶問的是2024年的新聞，我也給了最新的新聞報道作為上下文，但模型回答的還是2022年的舊聞...”相信做RAG應用開發的同學都遇到過類似的困擾。明明提供了相關的上下文，為什么大模型還是會產生幻覺...是大模型沒有好好利用上下文，還是上下文本身就不足以回答問題？最近Google、UCSD等機構的研究者提出了一個新的視角來看待這個問題。...