嘿！各位科技愛好者、醫(yī)療界的朋友們，以及所有對未來充滿好奇的伙伴們！最近AI圈又炸鍋了，但這次的主角有點特別——它不光能寫詩作畫，還能“看病”和“讀片”！沒錯，說的就是谷歌剛剛官宣開源的醫(yī)療大模型：MedGemma！這可不是隨隨便便丟點代碼出來玩玩，谷歌是直接把他們基于自家強大Gemma3架構訓練出來的醫(yī)療AI“高材生”放了出來。想象一下，一個在海量醫(yī)學數(shù)據(jù)里摸爬滾打、身懷絕技的AI，現(xiàn)在向全世界敞開大門，任憑你...

AI圈的熱鬧，恐怕連最資深的吃瓜群眾都快跟不上了。幾乎每天都有新模型、新突破的消息冒出來。而最近，字節(jié)跳動又端出了一盤，哦不，是“炸”出了一個有點特別的家伙：開源多模態(tài)基礎模型——BAGEL！別看名字可愛，這個“貝果”可不是普通的食物。它是一個能同時看懂圖、讀懂文，還能自己“畫”出來、甚至“P”得天衣無縫的多模態(tài)AI神器。字節(jié)跳動這回，真是把AI的“理解”、“生成”、“編輯”能力，狠狠地揉進了一個模型里，...

現(xiàn)在AI時代了，我們不應該讓AI自動來替我們創(chuàng)建這些筆記文件嗎？順便在概念之間自動建立起雙向鏈接關系，以便我們?yōu)g覽和學習，甚至再用一些記憶曲線之類的東東幫我們記憶和復習。豈不美哉！根據(jù)這些需求，我們大致選擇工具和方案：用AI提取知識點概念；用AI自動編程工具來給我們寫Markdown文件，并建立雙向鏈接；用隨機抽查或者記憶曲線之類的方法幫我們時不時溫故知新。這樣的工具有很多，本篇我們主要選用如下幾個：當紅大模...

出品51CTO技術棧（微信號：blog51cto）今天，一篇Reddit上的帖子走紅了，光看題目就很有料：ClaudeOpus幫我解決了一個我四年來都找不到的“白鯨級bug”圖片發(fā)帖人是一位有30年經(jīng)驗的前FAANGC++工程師，是團隊里負責給bug清場的大佬級角色。但這一次，他坦言被ClaudeOpus“徹底震撼了”。這個Bug有多棘手？它來自4年前的一次架構級重構，涉及約6萬行代碼。雖然解決了一堆歷史問題，卻也悄悄埋下了一個極邊緣的邏輯隱患：某個shad...

?Sora、可靈等視頻生成模型令人驚艷的性能表現(xiàn)使得創(chuàng)作者僅依靠文本輸入就能夠創(chuàng)作出高質(zhì)量的視頻內(nèi)容。然而，我們常見的電影片段通常是由導演在一個場景中精心布置多個目標的運動、攝像機拍攝角度后再剪輯而成的。例如，在拍攝賽車追逐的場景時，鏡頭通常跟隨賽車運動，并通過扣人心弦的超車時刻來展示賽事的白熱化。而如今的視頻生成模型無法實現(xiàn)3D場景中目標、相機聯(lián)合控制的文本到視頻創(chuàng)作，限制了AI影視制作的能力。近期...

編輯云昭出品51CTO技術棧（微信號：blog51cto）MCP雖然火，但安全問題其實一直不容忽視，就連大名鼎鼎的、與Claude打得火熱的GithubMCP服務器也出事了！剛剛得到消息，昨天，一家名為Invariant的安全的公司，突然披露了一個有關GitHubMCP集成（在GitHub上擁有1.4萬星標）的嚴重漏洞。圖片這個漏洞允許攻擊者通過精心構造的GitHubIssue“劫持”開發(fā)者的智能代理（如ClaudeDesktop中的Claude4Opus），并誘導它主動泄露私有倉庫的...

編者按：本文首先解析了為什么LLM訓練需要強化學習，詳細講解了RL和RLHF的工作原理；繼而系統(tǒng)比較基于價值、基于策略和ActorCritic三大強化學習范式的優(yōu)缺點；最后深入剖析TRPO和PPO算法，重點展示GRPO如何通過分組結構和相對優(yōu)勢估計實現(xiàn)訓練效率與穩(wěn)定性的雙重突破。作者ShirleyLi編譯岳揚這是DeepSeek系列文章的第六篇，我們將深入探討DeepSeek模型訓練策略中的關鍵創(chuàng)新之一\[1,2\]：群組相對策略優(yōu)化（GroupedRelativePolic...

LiteLLM允許開發(fā)者像調(diào)用OpenAIAPI那樣集成各種大語言模型（LLM），并支持故障轉(zhuǎn)移、預算控制、速率限制以及對API調(diào)用的實時監(jiān)控。不同提供商發(fā)布的大語言模型（LLM）層出不窮——包括Anthropic、谷歌、Meta、微軟、英偉達、OpenAI等等——這為開發(fā)者提供了豐富的選擇，但也令復雜性一路攀升。每家提供商都有其獨特的API特性和響應格式，使得在同一個應用中切換模型或支持多個后端變得愈發(fā)困難。作為一個開源項目，LiteLLM提供...

最近看了一張畫Agent記憶分類的圖我覺得分類分的還可以，但是太淺了，于是就著它的邏輯，仔細得寫了一下在不同的記憶層，該如何設計和選型先從流程，作用，實力和持續(xù)時間的這4個維度來解釋一下這幾種記憶：1.短期記憶（ShortTermMemory,STM）流程：Input（輸入）→Encode（編碼）→Store（存儲）→Erase（清除）作用：在進行活動時保持臨時細節(jié)，類似于我們在對話中臨時記住的信息。示例：保存最近的交互信息，比如剛剛發(fā)送的...

引言：重新定義工具使用型語言模型的訓練范式大型語言模型(LLM)的工具使用能力已成為擴展其功能邊界的關鍵戰(zhàn)略。傳統(tǒng)方法通常依賴監(jiān)督微調(diào)(SFT)來確保工具調(diào)用的正確性，或從更強大的模型中提煉推理軌跡。然而，這些方法各有局限：要么完全忽略推理過程，要么產(chǎn)生僅能模仿表面模式的偽推理，限制了模型的泛化能力。近日，NVIDIA研究團隊發(fā)布了一項突破性成果——NemotronResearchToolN1（簡稱ToolN1），這是一系列基于強化學習...

引言：微調(diào)效率的新視角在大型語言模型（LLM）迅速發(fā)展的今天，如何在有限資源下高效微調(diào)模型成為了研究和應用的關鍵問題。傳統(tǒng)觀點認為，訓練數(shù)據(jù)的總令牌數(shù)是衡量數(shù)據(jù)規(guī)模的唯一標準，但康涅狄格大學的研究團隊提出了一個更為精細的視角：數(shù)據(jù)的組成結構同樣至關重要。本文將深入分析RyanLagasse、AidanKiernans、AvijitGhosh和ShiriDoriHacohen在論文《固定計算預算下LLM微調(diào)中令牌效率的縮放定律》中提出的創(chuàng)新理論。該研究...

在早期的圖像分類中，通常流程是先人工提取特征，然后用對應的機器學習算法對特征進行分類，分類的準確率一般依賴特征選取的方法，甚至依賴經(jīng)驗主義。YannLeCun最早提出將卷積神經(jīng)網(wǎng)絡應用到圖像識別領域的，其主要邏輯是使用卷積神經(jīng)網(wǎng)絡提取圖像特征，并對圖像所屬類別進行預測，通過訓練數(shù)據(jù)不斷調(diào)整網(wǎng)絡參數(shù)，最終形成一套能自動提取圖像特征并對這些特征進行分類的網(wǎng)絡，如圖：圖像處理1、卷積神經(jīng)網(wǎng)絡卷積神經(jīng)網(wǎng)絡（Convo...

Anthropic發(fā)布了最新的Claude4系列模型，整個行業(yè)又躁動了。特別是Claude4Opus模型，憑借其在復雜任務處理、持續(xù)專注力以及編碼與推理能力上的顯著躍升，直指企業(yè)級復雜應用場景。不僅是模型能力的迭代，更是Anthropic在AIAgent商業(yè)化落地與安全可控方面決心的體現(xiàn)。OpenAI則對硬件情有獨鐘，以高達64億美元的代價將前蘋果設計靈魂JonyIve的硬件初創(chuàng)公司io納入麾下，并計劃聯(lián)手打造深度融合AI的“第三類核心設備”，這一舉動無...

一種可以“自適應切換SFT與RL”的訓練框架分享。大家應該都還記得，DeepSeekR1的“SFT>RL>增強SFT>增強RL”這種左腳踩右腳直接起飛的操作，這說明監(jiān)督微調(diào)（SFT）與強化學習（RL）交替訓練的訓練范式確實可以提高模型性能。很多大佬也有自己做小規(guī)模實驗，在進行新的訓練范式探索：預訓練后做兩次SFT接一次RL預訓練后先RL再SFT....那么如何設計訓練框架能實現(xiàn)效果最優(yōu)呢？本篇分享一種可以“自適應切換SFT與RL”的訓練框架；這...

摘要檢索增強生成（RAG）在增強語言模型知識和減少AI生成幻覺方面表現(xiàn)出強大能力，推動了其廣泛應用。然而，需要多輪檢索的復雜任務仍然具有挑戰(zhàn)性，早期嘗試往往過于樂觀，缺乏良好的自我懷疑意識。當前的多輪RAG系統(tǒng)可能在已經(jīng)檢索到足夠信息時繼續(xù)搜索，或者在沒有足夠信息或知識時提供錯誤答案。現(xiàn)有解決方案要么需要大量昂貴的人工標注過程監(jiān)督數(shù)據(jù)，要么導致性能不佳。本文旨在通過引入新框架SIMRAG來解決這些限制，明確...

Qwen3TechnicalReport本文介紹了最新的Qwen模型家族——Qwen3，它是一個大型語言模型系列，旨在提高性能、效率和多語言能力。該系列包括密集架構和混合專家（MoE）架構的模型，參數(shù)規(guī)模從0.6到235億不等。Qwen3的創(chuàng)新之處在于將思考模式（用于復雜、多步推理）和非思考模式（用于快速、基于上下文的響應）整合到一個統(tǒng)一框架中，消除了切換不同模型的需求，并可以根據(jù)用戶查詢或聊天模板動態(tài)切換模式。此外，Qwen3引入了思考預...

隨著大型語言模型（LLM）技術的飛速發(fā)展，基于LLM的智能體（LLMagents）正以前所未有的速度滲透到各行各業(yè)，從自動化客戶服務、內(nèi)容創(chuàng)作到數(shù)據(jù)分析乃至醫(yī)療輔助，深刻地改變著我們的工作與生活方式。為了充分釋放智能體的潛力，研究者們設計了多種架構，旨在促進智能體與外部實體——包括非智能體直接控制的數(shù)據(jù)源、工具以及其他在線智能體——之間的有效通信。然而，隨著應用場景的擴展和來自不同供應商、采用不同架構的智能體...

“如果說大模型是智能體的大腦，那么工具就是大模型的手和腳。”在Langgraph智能體開發(fā)框架中有幾個核心概念，分別是狀態(tài)圖，節(jié)點和邊；但在此之外還有其它的一些概念如工具，工具在智能體開發(fā)中的重要性就不言而喻了。雖然這些概念說起來很簡單，但在實際操作過程中卻面臨著各種各樣的問題。今天我們就主要介紹一下關于Langgraph中的工具的使用和注意事項。Langgraph中的工具工具是智能體開發(fā)過程中的核心，雖然大模型也很重要...

“一個開發(fā)框架的靈魂是其設計思想，而不是其技術實現(xiàn)。”最近幾天在學習人工智能開發(fā)框架——Langgraph，雖然其理論看起來很簡單，但等真正開始使用的時候才發(fā)現(xiàn)其經(jīng)典的架構設計遠比其技術更經(jīng)典，更優(yōu)雅。人工智能開發(fā)框架作為一個技術人員，很多時候都在學習各種各樣的開發(fā)框架；而且很容易沉迷于其技術實現(xiàn)無法自拔，但事實上一個經(jīng)典的框架都有著其經(jīng)典的設計哲學。從javaweb的spring框架，到人工智能開發(fā)框架Langchain和...

“人工智能時代的來臨，是很多人夢寐以求的機會，但同樣也是很多人必須要面對的巨大風險。”一項新技術的出現(xiàn)往往伴隨著很多的爭議，兩千年左右的互聯(lián)網(wǎng)，前幾年的元宇宙，到現(xiàn)在的人工智能；但技術的發(fā)展并不會因為爭議而停止，雖然有些技術目前來看確實只是一個噱頭，但原因可能并不在技術本身，而在于當前的技術水平無法支撐如此龐大的體系。而以人工智能技術來說，其發(fā)展速度已經(jīng)遠超普通人的想象，雖然很多人在說人工智能...