編者按：DeepSeekR1到底有什么特別之處？它為什么能在推理任務(wù)上取得如此出色的表現(xiàn)？這背后的訓(xùn)練方法又蘊(yùn)含著怎樣的創(chuàng)新？當(dāng)我們需要模型處理數(shù)學(xué)題、編程任務(wù)，或是進(jìn)行邏輯分析時，高質(zhì)量的推理能力顯得尤為重要。然而，傳統(tǒng)的訓(xùn)練方法往往需要耗費(fèi)大量人力物力，這對許多研究團(tuán)隊和企業(yè)來說都是不小的負(fù)擔(dān)。今天這篇深度解析DeepSeekR1訓(xùn)練方法的文章，將展示一個令人耳目一新的解決方案：如何通過創(chuàng)新的強(qiáng)化學(xué)習(xí)方法，在...

01、概述近年來，隨著大規(guī)模語言模型（LLMs）的迅猛發(fā)展，如何讓這些模型更高效地適應(yīng)特定任務(wù)和領(lǐng)域成為了人工智能領(lǐng)域的熱點話題。在這場競賽中，強(qiáng)化微調(diào)（ReinforcedFineTuning，ReFT）脫穎而出，為語言模型的優(yōu)化提供了一種創(chuàng)新性的解決方案。無論是OpenAI還是字節(jié)跳動，均采用了不同的路徑對這一技術(shù)進(jìn)行了深入探索，展示了ReFT在提升推理能力、優(yōu)化性能上的巨大潛力。今天，我們將帶你全面了解ReFT技術(shù)的背景、核心機(jī)制...

01、概述隨著人工智能技術(shù)的飛速發(fā)展，我們見證了它在諸多領(lǐng)域的卓越表現(xiàn)。然而，即使是當(dāng)下最先進(jìn)的AI系統(tǒng)，在某些核心挑戰(zhàn)上仍顯不足，尤其是涉及多模態(tài)推理與規(guī)劃能力的任務(wù)。當(dāng)任務(wù)需要抽象推理、科學(xué)理解或精確的數(shù)學(xué)計算時，這些缺陷就愈發(fā)明顯。與此同時，AI在實際應(yīng)用中的擴(kuò)展也帶來了更多復(fù)雜需求，例如分析包含數(shù)百萬字節(jié)的長文檔。如何突破這些限制，決定了AI能否在教育、科研和產(chǎn)業(yè)等領(lǐng)域釋放更大的潛力。在這一背...

01、概述在信息驅(qū)動的時代，基于圖的RAG（GraphRAG）正迅速成為一種強(qiáng)大的工具，超越了傳統(tǒng)依賴向量存儲的RAG應(yīng)用。它不僅提供語義相似性檢索，更具備強(qiáng)大的推理能力。例如，向量存儲能輕松回答“XYZ公司去年的CFO是誰？”這種基于顯式信息的問題，但對于“XYZ公司哪兩位董事畢業(yè)于同一所學(xué)校？”這樣需要隱式推理的問題，圖RAG更勝一籌。但問題在于，如何構(gòu)建圖數(shù)據(jù)庫以支持這種高級檢索？更進(jìn)一步，如何從復(fù)雜的年報中提取信...

最近各種營銷號鼓吹基于qwen的模型幾十塊錢復(fù)現(xiàn)deepseekR1zero，坑壞了算法工程師，筆者實驗驗證下這個夸張說法，因為實驗僅僅是快速的實現(xiàn)，無過多的優(yōu)化，下面實驗數(shù)據(jù)僅供參考，歡迎指正。實驗過程DeepSeekR1Zero過程DeepSeekR1Zero是一個純RL（無SFT）來探索模型推理能力的過程（基于GRPO的RL優(yōu)化過程）。RewardModel是基于規(guī)則的獎勵過程（RuleBaseRM），R1Zero階段只關(guān)注數(shù)學(xué)、程序類推理問題，都是能簡單通過規(guī)則判別答...

RAG的核心思想是通過實時數(shù)據(jù)檢索彌補(bǔ)這一缺陷——在生成答案前，系統(tǒng)先從外部數(shù)據(jù)源（如數(shù)據(jù)庫、API或互聯(lián)網(wǎng)）動態(tài)檢索相關(guān)上下文，再結(jié)合LLM的知識生成更精準(zhǔn)、實時的響應(yīng)。但它們通常在處理動態(tài)、多步推理任務(wù)、適應(yīng)性和復(fù)雜工作流的協(xié)調(diào)方面仍然存在不足。rag三大組件檢索器（Retriever）：從外部數(shù)據(jù)源（如向量數(shù)據(jù)庫、知識圖譜或網(wǎng)頁）中搜索與查詢相關(guān)的信息。相關(guān)技術(shù)：如BM25關(guān)鍵詞匹配、密集向量搜索等。增強(qiáng)器（Augm...

deepseek開源的多模態(tài)大模型Janus再次升級，也來簡單看下Janus的架構(gòu)設(shè)計。核心創(chuàng)新點：傳統(tǒng)的多模態(tài)模型通常使用單一視覺編碼器來處理多模態(tài)理解和生成任務(wù)，這會導(dǎo)致任務(wù)之間的沖突，因為這兩種任務(wù)對視覺信息的需求粒度不同。Janus通過將視覺編碼解耦為獨(dú)立的路徑，分別處理多模態(tài)理解和生成任務(wù)，使兩個任務(wù)得到統(tǒng)一，并取得了比較好的性能。多模態(tài)理解：使用SigLIP編碼器提取圖像的高級語義信息，適合理解任務(wù)。視覺生成：...

本指南展示了如何使用HuggingFace的Transformer模型構(gòu)建語義搜索引擎，以提供更精確、更貼合場景的搜索結(jié)果。你也許會好奇，像谷歌這樣的搜索引擎是如何將“預(yù)算友好的度假勝地”（budgetfriendlyvacationspot）和“廉價的旅游地點”（cheapplacestotravel）等短語解釋為基本相同的查詢？這正是語義搜索的強(qiáng)大之處。傳統(tǒng)搜索引擎嚴(yán)重依賴于精確的關(guān)鍵字匹配，它們只查找包含查詢中輸入的確切單詞的文檔或結(jié)果。例如，你如果搜索...

出品51CTO技術(shù)棧（微信號：blog51cto）?SebastianRaschka?是一位外國知名的AI專家。特別在大型語言模型（LLM）研究方面，有著豐富的研究經(jīng)驗。近日DeepSeekR1推理模型的推出，將“任何一款不是o1的模型快速蒸餾成具備強(qiáng)推理能力的o1”成為了可能，而且所需的成本和算力都大大降低。但爆火有一個地方不好，就是很容易讓我們迷失在炒作的海洋中，尋找不到有價值的信息。Raschka?非常nice，昨天發(fā)布了一篇有關(guān)DeepSeek推理模型...

整理言征出品51CTO技術(shù)棧（微信號：blog51cto）過去12個月，大型語言模型(LLM)的重頭戲是增強(qiáng)其推理能力，以彌補(bǔ)與通用人工智能(AGI)的差距。DeepSeekR1和OpenAIo1是引領(lǐng)這一發(fā)展的兩個著名模型，旨在出色地完成復(fù)雜的推理任務(wù)。本文對這些模型進(jìn)行了深入比較，仔細(xì)研究了它們的架構(gòu)設(shè)計、訓(xùn)練方法、性能基準(zhǔn)、優(yōu)勢、局限性、成本和可訪問性。一、模型概述DeepSeekR1：DeepSeekR1代表了DeepSeekAI開發(fā)的第一代推理模型。它的獨(dú)...

以齒輪箱故障數(shù)據(jù)為例，故障工況如下：(a)健康狀態(tài)HEA；(b)切齒故障CTF；(c)缺齒故障MTF；(d)齒根裂紋RCF；(e)齒面磨損SWF；(f)滾動體故障BF；(d)復(fù)合故障CWF；(e)內(nèi)圈故障IRF；(f)外圈故障ORF。下圖為齒輪箱九種狀態(tài)的多尺度特征學(xué)習(xí)情況。鑒于不同尺寸的卷積核能提取不同頻率段的特征，可以看出特征圖類似于通常的時間尺度表征映射圖，不同尺度的卷積操作能夠捕獲不同的特征信息，模型可以根據(jù)不同的狀態(tài)輸入振動信號自適應(yīng)地...

2024年底，一款名為DeepSeek的AI產(chǎn)品引發(fā)了全球關(guān)注，其在美區(qū)蘋果AppStore免費(fèi)榜飆升至首位，并在中國區(qū)同樣占據(jù)榜首位置。外媒評價稱，DeepSeekV3的性價比優(yōu)勢標(biāo)志著中國AI公司在基礎(chǔ)層創(chuàng)新上首次對硅谷主導(dǎo)地位構(gòu)成實質(zhì)性挑戰(zhàn)。DeepSeek的出現(xiàn)不僅是技術(shù)突破的象征，更引發(fā)了對教育現(xiàn)狀的深刻反思。該產(chǎn)品在文學(xué)創(chuàng)作方面展現(xiàn)出卓越能力，例如其創(chuàng)作的帶有古龍風(fēng)格的新春祝福語，其文采和深度令人驚嘆。這不禁讓人思考：在AI...

大家好！今天咱得聊聊人工智能這圈的大新聞。現(xiàn)在大語言模型，就像雨后春筍一樣冒出來，大家都知道它們厲害，能聊天、能寫文章、能做題，可你知道它們的推理能力是咋一步步變強(qiáng)的嗎？最近，DeepSeekAI搞出了個大動作，整出了DeepSeekR1系列模型，這就好比給大語言模型的推理能力打了一針超強(qiáng)的“升級針”，直接讓它們的“智商”上了好幾個臺階。這模型到底咋做到的？它又會給我們的生活帶來啥意想不到的變化？今天咱就好好扒一...

什么是TFIDFTFIDF(termfrequency–inversedocumentfrequency)是一種用于信息檢索與數(shù)據(jù)挖掘的常用加權(quán)技術(shù)，常用于挖掘文章中的關(guān)鍵詞，而且算法簡單高效，常被工業(yè)用于最開始的文本數(shù)據(jù)清洗。TFIDF有兩層意思，一層是"詞頻"（TermFrequency，縮寫為TF），另一層是"逆文檔頻率"（InverseDocumentFrequency，縮寫為IDF）。假設(shè)我們現(xiàn)在有一片長文叫做《量化系統(tǒng)架構(gòu)設(shè)計》詞頻高在文章中往往是停用詞，“的”，“是”，“了”等...

1.背景：上下文切換的困擾在AI代碼編輯器中，準(zhǔn)確的上下文描述可以幫助AI更高效地完成任務(wù)。然而，傳統(tǒng)的方法如復(fù)制粘貼代碼、手動上傳文件、切換標(biāo)簽頁查閱文檔，不僅費(fèi)時費(fèi)力，還容易出錯。Cline通過4個智能上下文命令，讓AI直接理解代碼、文檔和錯誤信息，大幅減少開發(fā)者的心智負(fù)擔(dān)，真正實現(xiàn)智能化的上下文管理。2.Cline簡介：開源、安全、強(qiáng)大的AI編程助手Cline是一款開源的AI代碼助手，與VSCode深度集成，能夠提供代碼補(bǔ)...

今天在看DeepseekR1的技術(shù)報告，看到rewardhacking不懂，于是分別問了kimi長思考和deepseek深度思考功能。kimi推理及結(jié)果：Deepseek的推理及結(jié)果：RewardHacking（獎勵漏洞）可以理解為：一個系統(tǒng)為了“刷分”而鉆規(guī)則的空子，結(jié)果雖然分?jǐn)?shù)很高，但實際效果卻跑偏了。就像學(xué)生為了考高分只背題不學(xué)知識，或者游戲玩家用漏洞刷分但破壞了游戲體驗。舉個栗子??假設(shè)你訓(xùn)練一個清潔機(jī)器人，規(guī)則是“每撿一件垃圾得1分”。結(jié)果機(jī)器人...

人們——此處特指“華爾街”及個人投資者——時常懷有非理性的預(yù)期。這一現(xiàn)象正發(fā)生在仍被我們稱為Google的公司身上，畢竟Alphabet僅為一家控股公司，主要持有Google的股份。昨晚市場收盤后，Google攜手AMD公布了2024年第四季度的財務(wù)業(yè)績，但華爾街對這兩家公司合理增長及盈利狀況并不買賬。并非所有公司都能如NVIDIA在過去一年半中所享有的那般財務(wù)表現(xiàn)，即便身為NVIDIA的強(qiáng)大合作伙伴，Google亦是如此。（Google有自研的TPU...

論文鏈接：https:arxiv.orgpdf2502.03444項目鏈接：https:github.comHhhhhhaocontinuoustokenizer亮點直擊理論與實驗分析：通過實驗和理論分析建立了隱空間結(jié)構(gòu)與擴(kuò)散模型性能之間的聯(lián)系。揭示了具有更少高斯混合模型（GMM）模式的結(jié)構(gòu)化潛空間能夠更有效地訓(xùn)練和生成擴(kuò)散模型。MAETok：使用mask建模訓(xùn)練普通自編碼器（AE），并證明了具有更具判別性的潛空間的簡單AE能夠加速學(xué)習(xí)、提高生成質(zhì)量，并提升擴(kuò)散模型的吞吐量，從而...

編者按：大語言模型真的能像人類一樣高效處理海量信息嗎？我們今天為大家?guī)淼倪@篇文章，作者揭示了大語言模型在長上下文處理中的技術(shù)挑戰(zhàn)與未來發(fā)展路徑。文章重點聚焦于三個關(guān)鍵層面：首先，解析了Transformer模型注意力機(jī)制的計算成本問題，指出隨著上下文長度增加，計算復(fù)雜度呈指數(shù)級增長；其次，探討了Mamba等新興架構(gòu)在突破傳統(tǒng)模型局限性方面的潛力；最后，強(qiáng)調(diào)需要跳出現(xiàn)有思維模式，尋找處理海量信息的創(chuàng)新方法。作...

出品51CTO技術(shù)棧（微信號：blog51cto）如何理解AI代理，它們?nèi)绾喂ぷ?？想象一下開發(fā)一個生成式AI時代的API。這個API將支持自然語言輸入，利用大型語言模型的智能，通過與SaaS和企業(yè)系統(tǒng)的集成來自動化決策，并通過連接到其他生成式AI支持的API來實現(xiàn)業(yè)務(wù)流程編排。上面就是一種不錯的理解方式。它們將RAG支持的LLM的推理能力與對上下文業(yè)務(wù)知識的訪問，以及半獨(dú)立行動的能力相結(jié)合。與LLM接受自然語言輸入并回答問題不同，AI代...