當(dāng)人工智能的浪潮席卷全球，兩個極具代表性的語言模型——DeepSeekR1與O3mini正在掀起新一輪技術(shù)風(fēng)暴。這場對決不僅關(guān)乎算法優(yōu)劣，更預(yù)示著AI發(fā)展的未來方向。在參數(shù)量突破千億門檻的時代背景下，這兩款模型以截然不同的技術(shù)路線詮釋著智能進(jìn)化的可能性。DeepSeekR1延續(xù)著傳統(tǒng)大模型的暴力美學(xué)，而O3mini則開創(chuàng)了"小而美"的新范式，它們的碰撞將為我們揭示AI發(fā)展的核心密碼。架構(gòu)設(shè)計(jì)的哲學(xué)碰撞DeepSeekR1的巨人之軀基于混合專...

最近在折騰DeepSeekR1的私有部署，發(fā)現(xiàn)不少開發(fā)者都遇到了類似的困擾。明明按照文檔一步步來，卻總是會碰到這樣那樣的問題分片下載老是斷，模型合并偶爾出錯，環(huán)境配置更是讓人頭大。要是再遇到多機(jī)分布式、高并發(fā)或者國產(chǎn)芯片這些場景，那就更不好處理了。正好最近看到一個挺有意思的開源項(xiàng)目GPUStack(https:github.comgpustackgpustack)。它用Apache協(xié)議開源，主要就是為了解決DeepSeekR1這類大模型的部署問題。試用下來體驗(yàn)...

這個春節(jié)，DeepSeek實(shí)在太火爆了。短短一個月不到，DeepSeek再次震撼了全球人工智能領(lǐng)域。在去年12月，DeepSeek推出的DeepSeekV3在全球AI界引起了軒然大波，它憑借極低的訓(xùn)練成本，達(dá)到了與GPT4o、ClaudeSonnet3.5等頂級模型媲美的性能表現(xiàn)。與之前不同的是，此次推出的DeepSeekR1模型不僅在成本上更具優(yōu)勢，而且在技術(shù)層面實(shí)現(xiàn)了質(zhì)的飛躍，更重要的是，它是一款開源模型。新模型DeepSeekR1繼承了高性價比的特點(diǎn)，僅需十分之一...

OpenAI公司推出o3mini推理模型，展示了更詳細(xì)的思維鏈軌跡，并希望以更透明的方式彌合與顯示其全部思維鏈的DeepSeekR1的競爭差距。生成式人工智能開發(fā)商OpenAI公司首席執(zhí)行官SamAltman最近在?RedditAMA??問答活動中承認(rèn)，該公司在開源軟件研究方面站在了“歷史錯誤的一邊”。盡管OpenAI公司尚未發(fā)布其開源模型，但已經(jīng)邁出了提高透明度的第一步。正如該公司在其?X帳號??上所宣布的那樣，其最新的推理模型o3mini現(xiàn)在展示了...

出品51CTO技術(shù)棧（微信號：blog51cto）編輯伊風(fēng)???每天早上醒來，就等著看今天又可以在哪里用上R1了。昨天還在焦急等待微信“AI搜索”的灰度測試，一轉(zhuǎn)眼，騰訊文檔直接用上DeepSeek賦能辦公了！騰訊文檔的動作很快！小程序、網(wǎng)頁版AI全屏頁、移動端、桌面端全都可以體驗(yàn)R1的賦能。圖片網(wǎng)頁端體驗(yàn)地址：??https:docs.qq.comdesktopopenAiAssistant1&nlc1??在之前，騰訊文檔已經(jīng)有了AI文檔助手，而這則用R1的推理能力讓AI...

大模型應(yīng)用程序中的提示詞重復(fù)率高達(dá)70%。前綴緩存機(jī)制能夠?qū)⑼评沓杀窘档瓦_(dá)90%，顯著優(yōu)化性能并節(jié)約資金。是不是總感覺ChatGPT響應(yīng)緩慢？大家可能沒有留意，大模型應(yīng)用程序的提示詞重復(fù)率高達(dá)70%，問天氣、問翻譯和問節(jié)日安排的內(nèi)容大量出現(xiàn)，且每次都要消耗算力進(jìn)行處理。這樣的情況在分布式集群的各節(jié)點(diǎn)上被無數(shù)次放大，白白燒掉寶貴的能源和金錢。為此，Anthropic日前詳細(xì)介紹了如何利用提示詞緩存技術(shù)將推理成本降低90%。...

當(dāng)今，人工智能飛速發(fā)展，計(jì)算機(jī)視覺作為關(guān)鍵分支，已廣泛滲透于生活各處。從人臉識別門禁、自動駕駛到醫(yī)療影像診斷，它正悄然改變著我們的生活與工作模式。然而，傳統(tǒng)計(jì)算機(jī)視覺任務(wù)處理難度大。開發(fā)者需具備深厚數(shù)學(xué)基礎(chǔ)、扎實(shí)算法知識與豐富編程經(jīng)驗(yàn)，不僅要花費(fèi)大量時間學(xué)習(xí)復(fù)雜理論，開發(fā)時還得投入諸多精力編寫、調(diào)試和優(yōu)化代碼。這對非專業(yè)人士而言，是難以跨越的障礙，使他們對該技術(shù)望而卻步。吳恩達(dá)團(tuán)隊(duì)推出的VisionA...

本文轉(zhuǎn)載自PIKERAG框架的設(shè)計(jì)目標(biāo)是提供一個靈活且可擴(kuò)展的RAG系統(tǒng)，應(yīng)對工業(yè)應(yīng)用中復(fù)雜多樣的任務(wù)需求。框架的核心是通過有效的知識提取、理解和組織，以及構(gòu)建連貫的推理邏輯，解決了RAG系統(tǒng)在工業(yè)應(yīng)用中的局限性。下面來看下微軟開源的PIKERAG框架及其實(shí)現(xiàn)過程，供參考。PIKERAG框架PIKERAG框架主要由幾個基本模塊組成，包括文檔解析、知識抽取、知識存儲、知識檢索、知識組織、以知識為中心的推理以及任務(wù)分解與協(xié)調(diào)。PIKER...

??HtmlRAG??方法通過使用HTML而不是純文本來增強(qiáng)RAG系統(tǒng)中的知識表示能力。通過HTML清洗和兩步塊樹修剪方法，在保持關(guān)鍵信息的同時縮短了HTML文檔的長度。這種方法優(yōu)于現(xiàn)有基于純文本的RAG的性能。方法其實(shí)主要看下圍繞html提純思路，將提純后的Html內(nèi)容送入LLM進(jìn)行增強(qiáng)問答。1.HTML清洗由于原始HTML文檔過長（每個超過80K），并且不需要考慮用戶查詢的語義特征，因此在這個步驟中使用基于規(guī)則的方法進(jìn)行預(yù)處理。這個清洗過...

可能我們經(jīng)常會遇到這樣的場景：老板在會上講了一段話，語音識別系統(tǒng)卻把關(guān)鍵的數(shù)字、人名識別錯了；客服系統(tǒng)把用戶說的"預(yù)約掛號"聽成了"我要掛了"；方言用戶的語音指令被系統(tǒng)曲解成了完全不相關(guān)的內(nèi)容。這些問題背后折射出的是語音識別技術(shù)在特定場景下的短板尤其是在處理低資源語言時表現(xiàn)更為明顯。近期，沙里夫理工大學(xué)的研究團(tuán)隊(duì)提出了一個頗具創(chuàng)新性的解決方案：GECRAG。這個方案通過檢索增強(qiáng)的方式來提升語音識別的準(zhǔn)確...

麻省理工學(xué)院、斯坦福大學(xué)、哥倫比亞大學(xué)、康奈爾大學(xué)的研究人員聯(lián)合開源了創(chuàng)新3D交互視頻模型——PhysDreamer（簡稱“PD”）。PD和OpenAI的Sora一樣，是一個可以通過物理模擬的方式來生成視頻。也就是說，PD的視頻具備很多物理世界的特征。例如，用手去觸摸一盆花后，花朵會左右搖擺直至緩慢停止。PD可以準(zhǔn)確地捕捉到物體很多微妙的動態(tài)變化和復(fù)雜的交互細(xì)節(jié)，生成的視頻也就更加精準(zhǔn)、細(xì)膩。PD案例展示PD主要通過視頻生成模型...

嘿，大家好！這里是一個專注于AI智能體的頻道DeepSeek剛剛又發(fā)補(bǔ)給了，補(bǔ)給4件套。包含2個配置項(xiàng)，不要設(shè)置systemprompt+temperature設(shè)置為0.6。還有大家比較期待的官網(wǎng)的，接入搜索的R1的prompt設(shè)計(jì)及最佳用法！以及如何緩解R1系列模型繞過思考的解決辦法。在DeepSeek官網(wǎng)版本，沒有使用系統(tǒng)提示詞，而是為文件上傳和網(wǎng)絡(luò)搜索設(shè)計(jì)了兩個特定的提示詞以獲得更好的用戶體驗(yàn)。并且temperature設(shè)置為0.6。對于文件上傳，請按照模板...

論文地址：https:arxiv.orgpdf2409.04005項(xiàng)目主頁：https:360cvgroup.github.ioQihooT2X代碼倉庫：https:github.com360CVGroupQihooT2X?作者信息：論文一作為來自中山大學(xué)的博士生王晶；論文共同一作和項(xiàng)目leader為來自360AIResearch視頻生成方向的負(fù)責(zé)人馬傲亮點(diǎn)直擊提出了ProxyTokenized擴(kuò)散transformer（ProxyTokenizedDiffusionTransformer，PTDiT）。推出了QihooT2X系列模型，包括文本到圖像（T2I）、文本到視頻（T2V）以...

本文介紹了多模態(tài)大型語言模型（MLLM）的定義、使用挑戰(zhàn)性提示的應(yīng)用場景，以及正在重塑計(jì)算機(jī)視覺的頂級模型。目錄什么是多模態(tài)大語言模型（MLLM）？MLLM在計(jì)算機(jī)視覺中的應(yīng)用與案例領(lǐng)先的多模態(tài)大型語言模型未來展望1.什么是多模態(tài)大型語言模型（MLLM）？簡單來說，多模態(tài)大型語言模型（MLLM）是結(jié)合了大型語言模型（LLM）（如GPT3[2]或LLaMA3[3]）的推理能力，同時具備接收、理解并輸出多種模態(tài)信息的能力。示例：圖1展示了...

最近，AI社區(qū)被DeepSeekR1“刷屏”了!作為一款極具變革意義的開源推理大語言模型（LLM），大家討論最多的是它的基礎(chǔ)能力，卻鮮有人關(guān)注其在智能體工作流程中的巨大潛力，也就是多個模型動態(tài)協(xié)作的應(yīng)用場景。今天，就帶大家實(shí)操搭建一個智能體檢索增強(qiáng)生成（RAG，RetrievalAugmentedGeneration）系統(tǒng)。這個系統(tǒng)整合了：DeepSeekR1（70億參數(shù)蒸餾版）：用于復(fù)雜推理,系統(tǒng)的“智慧大腦”。。阿里云Qwen2.5（70億參數(shù)）：主打快速對...

大模型技術(shù)論文不斷，每個月總會新增上千篇。本專欄精選論文重點(diǎn)解讀，主題還是圍繞著行業(yè)實(shí)踐和工程量產(chǎn)。若在閱讀過程中有些知識點(diǎn)存在盲區(qū)，可以回到如何優(yōu)雅的談?wù)摯竽Ｐ椭匦麻喿x。另外斯坦福2024人工智能報(bào)告解讀為通識性讀物。若對于如果構(gòu)建生成級別的AI架構(gòu)則可以關(guān)注AI架構(gòu)設(shè)計(jì)。記得在《重新審視神經(jīng)網(wǎng)絡(luò)》這篇文章中提及，任何人都可以構(gòu)建自己心目中的神經(jīng)網(wǎng)絡(luò)。在Transformers、Mamba、KAN之后，長短期記憶(LSTM)...

最近DeepSeekR1蒸餾太火了，昨天在群里跟群友們問白嫖R1接口的事情，想著多點(diǎn)搞免費(fèi)額度蒸餾一波滿血版DeepSeekR1，來做做試驗(yàn)。結(jié)果一個小伙伴，跟我講，他們（無問芯穹）的滿血版DeepSeekR1API是免費(fèi)調(diào)用的，不僅如此，還有DeepSeekV3、Deepseek蒸餾版本模型R1DistillQwen32b也是免費(fèi)的。當(dāng)然，現(xiàn)在DeepSeek流量真的爆炸，公眾號標(biāo)題帶DeepSeek流量都會更高一些，算是現(xiàn)象級模型了。在這里為春節(jié)期間同樣努力奮斗，放出新模型...

DiversityEnhancesanLLM'sPerformanceinRAGandLongcontextTask大型語言模型（LLMs）的快速發(fā)展凸顯了上下文窗口限制的挑戰(zhàn)，這主要是由于自注意力機(jī)制的二次時間復(fù)雜度（(O(N^2))，其中(N)表示上下文窗口長度）。這一限制影響了問答（Q&A）中的檢索增強(qiáng)生成（RAG）和長上下文摘要等任務(wù)。一種常見的方法是選擇與查詢最相似的內(nèi)容；然而，這通常會導(dǎo)致冗余，并排除多樣化的相關(guān)信息。基于最大邊緣相關(guān)性（MMR）和最遠(yuǎn)點(diǎn)采樣（FPS...

編輯言征2天前，就在馬斯克宣布要以974億美元收購OpenAI后，OpenAI工程副總裁斯里尼瓦斯·納拉亞南（SrinivasNarayanan）接受了華爾街日報(bào)的一次線下對話，這次對話同樣也是出于一場中美AI博弈的新語境下：DeepSeekR1低成本訓(xùn)練出可以對標(biāo)OpenAIo1的強(qiáng)推理模型，甚至登頂了應(yīng)用排行榜，美國現(xiàn)在已經(jīng)封禁了DeepSeek應(yīng)用的下載。主持人當(dāng)然沒有放過斯里尼瓦斯，問了他這個非常敏感的問題。那么OpenAI內(nèi)部究竟是如何看待DeepSeek的...

最近DeepSeek的消息鋪天蓋地，使用下來的效果不愧是比肩OpenAIo1的存在。而且對于使用人的提示詞功力要求更低，可以使用簡單的大白話就能完成對應(yīng)內(nèi)容生成。DeepSeek接入目前騰訊正式灰度測試接入DeepSeek，目前灰度到的用戶，可在對話框頂部搜索入口，看到“AI搜索”字樣，點(diǎn)擊進(jìn)入后，可免費(fèi)使用DeepSeekR1滿血版模型。到“AI搜索”頁面后點(diǎn)擊對話框左下角就可以切換模型，選擇深度思考即切換到DeepSeekR1模型上，這里使用完...