AI.x社區
- 登錄/注冊
LLMs的知識蒸餾：技術和應用
精華知識蒸餾通過創建更小、更快、更易于部署的模型，釋放了大語言模型（LLM）在實際應用中的潛力。本文提供了知識蒸餾的全面指南，涵蓋視覺、自然語言處理（NLP）和語音領域中的算法、架構和應用。大規模機器學習和深度學習模型越來越普遍。例如，據報道，GPT4o有超過2000億個參數。然而，雖然訓練大型模型有助于提升最先進的性能，但部署這種龐大的模型，尤其是在邊緣設備上，并非易事。此外，大多數數據科學建模工作側重于訓練單...LLMsNLPGPT-4oS1：簡單高效的測試時推理能力擴展方法
引言：測試時計算擴展的興起與挑戰近年來，大型語言模型（LLMs）在自然語言處理領域取得了舉世矚目的成就，其性能的飛躍在很大程度上得益于大規模自監督預訓練和不斷增長的模型規模。然而，模型規模的不斷擴大也帶來了訓練成本和計算資源需求的急劇增加，這使得進一步提升模型性能變得越來越困難。為了在不進一步增加模型規模的前提下提升性能，一種新的范式——測試時計算擴展（TestTimeComputationExtension）——應運而生。...LLMs語言模型一文讀懂 PPO 與 GRPO：LLM 訓練的關鍵算法
精華大語言模型（LLM）的發展可謂日新月異。大家都知道，LLM的訓練過程很復雜，其中有兩個關鍵階段：預訓練和后訓練。今天咱們就來深入聊聊在這一過程中發揮重要作用的近端策略優化（PPO）算法和組相對策略優化（GRPO）算法。這倆算法不僅在學術圈備受關注，在實際應用中也有著舉足輕重的地位，理解它們，能讓你更懂LLM是如何一步步變得這么“聰明”的！一、從LLM訓練說起LLM的訓練如同一場漫長而復雜的旅程，主要分為預訓練和后訓...PPOLLM訓練釋放多模態GraphRAG的力量：集成圖像特征以獲得更深入的洞察 - 2025最新PPT
摘要EnterpriseKnowledge的首席數據和人工智能解決方案架構師DavidHughes在1月25日2025數據日上發表了題為“釋放多模態GraphRAG的力量：集成圖像特征以獲得更深入的洞察”。在本次演講中，David通過引入多模態GraphRAG討論了GraphRAG的一個未被充分探索的維度——圖像的集成，MultimodalGraphRAG是一個將圖像數據帶到基于圖的推理和檢索前沿的創新框架。他演示了這種方法如何實現對圖像的更全面理解，從而放大洞察的深度和準確...GraphRAG人工智能多模態從此告別收藏即吃灰！DeepSeek玩轉飛書的終極攻略
各位小伙伴，大家好，我是Baoxing最近飛書的多維表格也接入了DeepSeekR1，真的是AllInDeepSeek呀！那作為愛折騰愛分享的我，肯定要嘗試一下這個有什么不同呢，然而？直接就上頭了，玩到了現在，凌晨1點30分，開始編輯這篇文章。飛書的多維表格在我工作的時候就經常有使用的，分配任務，排計劃，做項目統計歸類等，這么多年的積累其自身功能就是在越來越強大越來越完善的過程，但也會有一些弊端。比如剛接觸到飛書的多維表格的小...DeepSeek飛書應用場景一文說清楚分布式思維狀態：由事件驅動的多智能體系統
原創本文聊聊事件驅動型設計如何協調多個AI智能體，進而建立起高效、可擴展的推理系統。大語言模型的能力上限止步于聊天機器人、問答系統、翻譯等特定語言，要想進一步展現潛力、解決更廣泛的問題，就必須想辦法讓它根據洞察力采取行動。換言之，只有掌握了推理的武器，大語言模型才算真正的完全體。這種推理智能體在AI研究領域有著悠久歷史，他們能夠對以往接觸過的情況進行概括，再據此處理從未見過的情況。在此基礎之上，只要能...事件驅動AI智能體大語言模型清華、中南開源3D交互實體AI Agent LEGENT
我們常見的AIAgent都是無法看到實體的，例如，RPA、智能按鍵精靈、AutoGPT等。雖然它們可以自動完成一些日常工作，但你是無法看到其真實身體。清華大學、中南大學的研究人員聯合開源了一款可視化3D交互實體AIAgent模型LEGENT，使用戶可以在3D虛擬空間中與實體AI代理進行互動。「AIGC開放社區」通過在線demo體驗了一下這個代理，非常有趣就像是玩一款游戲一樣。只需發送特定指令就可以讓AI做一些日常動作，例如，把汽車玩具放在...模型3D開源開啟AI短劇新紀元!SkyReels-V1/A1雙劍合璧!昆侖萬維開源首個面向AI短劇的視頻生成模型
精華論文鏈接：https:arxiv.orgabs2502.10841項目鏈接：https:skyworkai.github.ioskyreelsa1.github.ioDemo鏈接：https:www.skyreels.ai開源地址：https:github.comSkyworkAISkyReelsA1、https:github.comSkyworkAISkyReelsV1昆侖萬維開源中國首個面向AI短劇創作的視頻生成模型SkyReelsV1、中國首個SOTA級別基于視頻基座模型的表情動作可控算法SkyReelsA1。亮點直擊提出了SkyReelsA1，一種用于肖像動畫的全新框架，采用DiT（擴散Tr...視頻生成AI模型純研究O1的論文都發出來了，讓我想起來研究紅樓夢的紅學
有點意思的論文2410.13639ACOMPARATIVESTUDYONREASONINGPATTERNSOFOPENAI’SO1MODEL簡而言之就是曼徹斯特大學，浙大和中科大還有一些開源的項目組一些一起研究OpenAIO1的人，來發O1為什么牛B的論文。正常，研究紅樓夢畢竟也有紅學（我是一集紅樓夢也沒看過，書和電視都沒看過)。。。文章主要講分析猜測和評估OpenAI的推理模式在不同任務上的效果。同時也利用不同的模型比如GPT4o，Gemma，LLama,Qwen等嘗試利用分析出來的O1的推...O1AgentQwen2.54090單卡部署滿血 671B DeepSeek，本地部署“成本驟降32倍”！！！
原創最近，無論是在國內還是國外，一股DeepSeekR1部署熱潮正在興起，許多人都爭相在自己的本地服務器上嘗試部署完整版的DeepSeekR1。不過，想要在本地部署一個滿血版本的DeepSeekR1版本，可能需要大約16張A800顯卡，這意味著大約需要投入200萬元人民幣的成本。長期以來，業界對于671B大模型的成本問題感到困擾，迫切希望找到一種低成本的滿血版671BDeepSeek部署方案。今天，向大家推薦一個框架——KTransformers，它能夠在單臺配備2...DeepSeekDeepSeek-R1KTransformersSpring AI 宣布接入 DeepSeek ！！
原創DeepSeek，作為深度求索公司推出的杰出大模型，代表了國產技術的輝煌。掌握如何運用DeepSeek大模型至關重要。接下來，我們將探討如何基于DeepSeek大模型和SpringAI開發AIAgent智能體應用。1、SpringAI集成DeepSeek大模型第一、DeepSeek大模型介紹DeepSeek近日推出了兩款新大模型：1.DeepSeekV系列，專注于對話功能，其模型命名為deepseekchat。2.DeepSeekR系列，主要致力于推理能力，模型名稱為deepseekreasoner。若想了解這些...Spring AIDeepSeek大模型“地表最強”Grok 3震撼登場，馬斯克演示卻“小翻車”，網友調侃：加上擎天柱才是AGI！幾個月后還將開源！
原創出品51CTO技術棧（微信號：blog51cto）編輯伊風、言征跳票多次！Grok3終于來了！此前，DeepSeek創造的破圈奇跡，把硅谷的大模型公司全部籠罩在陰影之下。在Grok3發布前，馬斯克也是信心滿滿地放話出去：Grok3將成為地表最強AI。“我們有信心Grok3會比其他任何AI都強，而且很有可能，再也不會有比Grok（系列）更強的AI了。”上圖：馬斯克稱Grok3是地球最聰明的AI從性能上看，Grok比起現在各家的最強基礎模型，是有一定飛躍的。圖...Grok 3馬斯克AGILLM合集：視頻生成新王炸！Step-Video-T2V，全方位碾壓開源與商業模型
1.StepVideoT2VTechnicalReport:ThePractice,Challenges,andFutureofVideoFoundationModel我們提出了StepVideoT2V，這是個有300億參數的超厲害的文本到視頻預訓練模型，它能生成有204幀那么長的視頻內容。為了做好視頻生成這個任務，我們專門設計了一個深度壓縮變分自動編碼器，也就是VideoVAE。它能把空間壓縮到16x16，時間上壓縮8倍，還能保證視頻重建的質量非常高。。用戶要是輸入提示內容，我們用兩個雙語文本編碼器來處理...LLMMLLM模型從0開始：用 Streamlit + LangChain 搭建個簡易ChatGPT
流式傳輸允許實時接收生成的文本，隨著文本的生成而接收。這樣，您就不必等到整個文本準備好后才能開始向用戶展示。我們將使用LangChain與LLM進行流式交互，并使用Streamlit創建應用的前端。1.什么是Streamlit？2.什么是LangChain？3.什么是流式輸出？4.代碼實現4.1安裝依賴4.2導入必要的庫4.3初始化OpenAI語言模型4.4創建StreamlitUI4.5實現流式輸出4.6管理聊天歷史4.7顯示聊天記錄4.8獲取用戶輸入并生成AI回復5.運行項目總結...StreamlitLangChainAIDeepSeek模型使用指南：不同模式竟然差異這么大！
大家好！最近很多小伙伴在使用DeepSeek模型時遇到了困惑：為什么同樣的任務，換一個模型效果就天差地別？其實，這很可能是因為沒有用對提示詞！今天我們就來揭秘DeepSeek兩大模型（V3和R1）的「性格差異」，教你如何對癥下藥寫出完美提示詞！選中“深度思考”即為R1推理模式，不選則為V3一、模型界的"閃電俠"vs"思考者"如果把大模型比作職場員工，那么DeepSeekV3和R1就是兩種完全不同的人才：??DeepSeekV3（GPT型）?人設：高效...DeepSeek模型AI超全整理！DeepSeek一鍵接入這些工具，效率狂飆！
??效率黨的福音：這些工具讓AI隨叫隨到1??Chatbox&ChatGPTNextWeb??一句話概括：跨平臺桌面版ChatGPT，支持DeepSeek！無論是Windows、Mac還是Linux，打開即用，界面清爽，對話、翻譯、寫代碼全搞定！（偷偷說：還能自定義API，一鍵切換不同大模型哦～）2??劃詞翻譯&歐路翻譯??劃哪譯哪，雙語對照！看英文文檔頭疼？選中文字秒出翻譯，支持DeepSeek、GPT、谷歌等引擎，論文黨、程序員狂喜！（搭配沉浸式導讀，還能一鍵生成網...DeepSeek工具AI高分辨率3D人生成超簡單!Pippo:Meta最新工作首次完成1K分辨率一致多視角人物圖像生成
論文鏈接：https:arxiv.orgpdf2502.07785項目鏈接：https:yashkant.github.iopippo亮點直擊一種生成模型：能夠從單張圖像生成高分辨率和多視角一致的人體，并提出了有效的訓練策略。一種擴散Transformer架構：專為增強多視角生成和視角控制而設計。一種注意力偏置技術：能夠在推理時生成比訓練時多5倍以上的視角。一種新穎的3D一致性指標：用于準確衡量生成任務中的3D一致性水平。總結速覽解決的問題高質量多視角數據獲取成本高...AI圖像生成模型如何利用AGI技術實現核聚變？
在科技飛速發展的今天，AGI（通用人工智能）和核聚變這兩個概念逐漸走入了公眾的視野。你是否曾想過，AGI技術能否成為推動核聚變研究的關鍵？在這篇文章中，我將帶你深入了解AGI的基本概念、核聚變的科學原理，以及如何利用AGI技術推動核聚變的研究和應用。??一、AGI技術的基本概念AGI，即通用人工智能，是指一種能夠理解、學習和應用知識的智能系統，具備人類的認知能力。與特定領域的人工智能（如圖像識別、語音識別等）不同...AGI技術應用重磅！OpenAI將開源 o3-mini，或適合手機大模型
早上9點50，OpenAI聯合創始人兼首席執行官SamAltman表示，對于OpenAI的下一個開源項目，做一個類似o3mini級別的模型會更有用嗎？這種模型相當小，但仍需在GPU上運行；還是說，打造我們所能做到的最適合手機運行的模型更有用呢？根據投票顯示，網友現實更喜歡適配手機移動端的大模型。網友一眼就看出來了，你這明顯是在搶Gork3風頭啊。來個適配手機的模型，若能解決符合《健康保險流通與責任法案》（HIPAA）相關合規問題，將徹底...開源模型模型Windsurf Wave3：MCP協議讓AI直接讀取控制臺錯誤，自動化網頁調試不用復制粘貼了！Tab智能跳轉、Turbo模式
Hi，這里是Aitrainee，歡迎閱讀本期新文章。就在昨天，Windsurf又推出了一波新版本更新。他們顯然把這個批次里面的新版本都稱為Wave，這次是Wave3。Wave2的更新：Memories功能很貼心。自動記住對話內容，方便后續引用。想記住什么，隨時提醒它。記憶面板里能看到所有內容。可以用命令面板打開，也能刪除不要的記憶。這個不花信用點。還有些小更新，修了bug，改進了細節。好了，回到Wave3，官方表示為了沉浸式編碼，你可以使用一...wind測試版Turbo
