AI.x社區
- 登錄/注冊
告別800秒魔咒！硬件級STA革新視頻DiT注意力，讓HunyuanVideo效率提升3.5倍!
論文鏈接：https:arxiv.orgpdf2502.04507Git鏈接：https:github.comhaoailabFastVideoHuggingface：https:huggingface.coFastVideoFastHunyuan亮點直擊識別并量化了最先進的視頻DiT中的3D局部性和頭部specialization，揭示了完整3D注意力中的大量冗余。引入了SLIDINGTILEATTENTION，一種基于分塊的滑動窗口注意力機制。優化內核與FlashAttention3相比實現了最小的開銷，MFU達到58.79%。STA將注意力加速超過10倍，并將端到端視頻...AI生成模型王炸組合！STL-VMD二次分解 + Informer-LSTM 并行預測模型
前言傳統時間序列預測模型（如ARIMA、單一LSTM）在面對多尺度特征（如長周期、短周期、噪聲混雜）和非線性動態（如突變、趨勢漂移）時表現受限，尤其對以下場景效果不佳：強噪聲干擾：工業傳感器信號中的高頻噪聲掩蓋真實模式多季節性與趨勢耦合：如電力負荷數據（日周期+周周期+節假日趨勢）長期依賴與短期波動并存：如股票價格序列針對以上問題，本期提出一種基于STL+VMD二次分解，InformerLSTM的并行預測模型，該創新模型通...STLVMDLSTMDeepSeek全新注意力機制NSA發布，超快速長文訓練與推理
精華DeepSeek官推發布了最新技術成果NSA：一種面向硬件且支持原生訓練的稀疏注意力機制，專為超快長上下文訓練與推理設計。NSA的核心組成：動態分層稀疏策略粗粒度的token壓縮細粒度的token選擇??NSA針對現代硬件進行了優化設計，顯著提升了推理速度，并有效降低了預訓練成本——同時不損失性能。在通用基準測試、長文本任務和基于指令的推理任務中，NSA的表現均能達到甚至超越傳統全注意力模型的水平。1.動態分層稀疏策略NSA的核心...DeepSeekNSA長文訓練大模型在零樣本面部情緒標注中的突破與應用
精華情緒識別作為人機交互中的關鍵一環，能夠提升智能系統的反應靈敏度和人性化程度。但是傳統的情緒標注方法面臨著諸多挑戰和局限性，人工情緒標注過程既耗時又昂貴，并且標注員可能會因個人主觀性帶來不同的評估標準，從而影響標注的一致性和準確性。人工標注不僅成本高且效率低下，標注員需要長時間精心標注數據，這不但要求大量人力資源，還會引入人類認知中的固有變異性和潛在偏見。情緒標注任務的主觀性和細微差別增加了標注...大模型零樣本LLMsLangMem 發布：任何人都能輕松構建智能體記憶！
精華今天，我們正式發布了LangMemSDK——一個幫助您的代理通過長期記憶不斷學習和改進的工具庫。這個SDK提供了一些工具，能夠從對話中提取信息、通過更新提示詞優化代理行為，并保持關于行為、事實和事件的長期記憶。您可以將LangMem的核心API與任何存儲系統配合使用，也能在任何代理框架中集成。它還與LangGraph的長期記憶層原生兼容。我們還推出了一項托管服務，提供額外的長期記憶功能，并且免費提供——如果您希望在生產環境中...LangMem智能體SDK2024 AI行業革新大事記
智能體崛起人工智能界為能夠自主行動的系統奠定了基礎，通過迭代提示大型語言模型，在各種應用中實現了性能的大幅提升。發生了什么“智能體”成為了人工智能領域的新熱詞。研究人員、工具供應商和模型開發者紛紛為大型語言模型(LLM)賦予了決策和行動能力，以實現特定目標。這些進展預示著來年及未來智能體應用將迎來爆發式增長。幕后推手多種工具的出現，助力開發者構建智能體工作流程。2023年10月├──CrewAI發布了開源Python...AI行業Anthropic時序+圖像+文本，多模態增強的時序預測模型
今天給大家介紹一片最新的多模態時間序列預測工作。這篇文章采用了時間序列、圖像、文本三種模態的數據形式，進行時間序列預測，增強底層信息的輸入，提升時序預測效果。論文標題：TimeVLM:ExploringMultimodalVisionLanguageModelsforAugmentedTimeSeriesForecasting下載地址：??https:arxiv.orgpdf2502.04395??1.研究背景傳統的時間序列預測方法，都是最基礎的時間序列形式數據進行建模的。然而，最近一些工作將文本信息...時序圖像文本Tiktok多模態大模型最新研究：顯示序列建模提升視頻理解能力
今天給大家介紹一篇視頻多模態大模型工作，這篇文章的核心是探索了在現有的SOTA視頻多模態大模型中，引入顯示的視頻時序建模提升模型的視頻理解能力。論文標題：ExploringtheRoleofExplicitTemporalModelinginMultimodalLargeLanguageModelsforVideoUnderstanding下載地址：??https:arxiv.orgpdf2501.16786??1.研究背景傳統的時間序列預測方法，都是最基礎的時間序列形式數據進行建模的。然而，最近一些工作將文本信息、圖...Tiktok多模態大模型DeepSeek-R1 用來優化GPU 內核？代碼自動生成還比人寫得好！
英偉達工程師最近用DeepSeekR1模型加上“推理時擴展”技術，讓AI自動生成GPU核心代碼，也就是GPU內核。更讓人驚訝的是，有些AI生成的代碼甚至比工程師寫的還要好！隨著AI模型處理越來越復雜的任務，它們對計算資源的需求也在不斷增長。GPU內核作為執行計算任務的關鍵部分，其優化程度直接關系到模型的性能。然而，傳統的內核優化需要大量時間和專業知識，效率低下。NVIDIA工程師們采用了DeepSeekR1模型，這是一種開源的AI模型，...DeepSeek-R1GPU內核xAI 發布地表最強大模型Grok 3，同時宣布將開源Grok2
xAI近日宣布推出Grok3，這是繼Grok2之后的又一重大更新。Grok3在性能上實現了顯著提升，據ElonMusk透露，其能力比Grok2提升了整整一個數量級。Grok3的發布得益于200K個GPU的計算能力，這一數字在短短92天內翻倍。Grok3的訓練量是Grok2的10倍，并在一月份完成了預訓練。這一模型仍在不斷訓練中，預示著其未來性能的持續提升。在性能基準測試中，Grok3在同類模型中表現出色，顯著超越了Gemini2Pro和GPT4o等模型。即使是Grok3mini...xAIGrok 3模型如何使用Java設計一套多智能體系統
原創2025年將成為AI智能體之年。在本文的場景中，AI智能體是一套能夠利用AI通過一系列步驟實現目標的系統，且具備就結果進行推理及更正的能力。在實踐中，智能體遵循的步驟可總結成圖表形式。我們將構建一款響應式應用（對來自用戶的輸入做出響應），幫助人們規劃自己的完美假期。此智能體將根據用戶指定的餐食、海濱和活動需求，在指定的國家地區內推薦最佳城市。智能體基本架構如下：在第一階段，智能體將并行收集信息，根據單一...AI智能體JavaChatGPTDeepSeek創始人是誰？這個問題DeepSeek也整不會了！
原創梁文鋒到底有多低調？你問DeepSeek官網，連自家的產品都整不會“DeepSeek的創始人是誰”這個問題。事情是這樣的。小編一位朋友所在的公司近日內部接入了DeepSeek。昨天這位朋友突然找到小編反映：DeepSeek怎么回事，效果這么不好用？緊接著就發了這樣兩張截圖——圖片圖片朋友問DeepSeek：DeepSeek的創始人是誰？這對話框彈出來的結果真的讓人驚掉下巴：第一張截圖中，DeepSeek的答案：這是一個虛構的公司或組織！所以更不用提...DeepSeek網頁promptDeepseek算命？AI竟然能預測人生！我試了，結果讓我詫異.....
原創刷朋友圈，看到一個朋友發了條說說：“感謝Deepseek提升個人能量的建議！這么多年總算年會中了一次獎了哈哈哈！！！”看到這條朋友圈，我的第一反應是：Deepseek這么玄學呢？作為一個技術博主，我向來對AI的能力持開放態度，但算命？這似乎有點超出我的認知范圍了。于是，我決定親自試試，用我一個好兄弟的八字來“考驗”一下Deepseek。我的“算命”實驗第一步：試探Deepseek我先問了Deepseek一個簡單的問題：“聽說你會算命？...DeepseekAIAI算命從GraphRAG到PIKE-RAG，微軟發布復雜企業場景下的私域知識提取與推理新突破
原創 精華摘要盡管檢索增強生成（RAG）系統通過外部檢索擴展了大語言模型（LLM）的能力，并取得了一定進展，但這些系統在應對復雜多變的工業應用需求時仍顯不足。特別是在提取深度領域知識和進行邏輯推理方面，僅依賴檢索的方式存在明顯短板。為此，微軟推出了PIKERAG（sPecIalizedKnowledgEandRationaleAugmentationGeneration），旨在通過提取、理解和應用專業知識，構建連貫的推理鏈條，逐步引導LLM生成更精準的響應。github對應的地...RAGGraphRAG微軟PIKE-RAGDeepseek AI模型本地部署步驟簡記：ollama + deepseek-r1 + 本地AI模型的Web UI
deepseek官網經常提示“服務器繁忙，請稍后再試。”，于是想自己實現本地部署。但是由于個人電腦太菜，只能嘗試一下步驟，記錄一下，后面等有強悍的服務器或者模型進一步優化才能私人真正獨立的使用與生產。總體方案：ollama+deepseekr1+本地AI模型的WebUI第一步：ollama網站下載ollama（Ollama是一個用于管理和運行本地AI模型的軟件工具。它提供了一種簡化的方式來下載、管理和在本地計算機上運行各種AI模型，而無需依賴云計算...DeepseekAIollama苦于 DeepSeek 無法生成 PPT？那是你沒結合這兩款 AI 工具一起用
精華從目前各大廠家都全面接入DeepSeek，這波DeepSeek開源無疑把國內的AI進度又提前了好幾年。但是大家在使用過程中發現DeepSeek雖然好用，但也只能生成文字，很多場景下僅僅只有文字是不夠的。特別是生成PPT這么一個高頻的使用場景，如果只有文字，還需要我們自己找個模板把內容一點點往里填，無疑需要耗費很大的功夫。既然DeepSeek只能生成文本內容，無法直接生成PPT，那結合其他AI工具是不是就能搞定呢？今天給大家推薦Kimi和豆...DeepSeekAI工具服務器繁忙？動手做：滿血版DeepSeek R1+Agentic RAG 構建聯網搜索智能體（附源碼）
要說當下什么最熱，DeepSeek絕對是當仁不讓。憑借其強大的語言理解和生成能力，以及免費開放的策略，DeepSeek迅速吸引了大量用戶，成為全球關注的焦點。然而，隨著用戶數量的激增，DeepSeek官網的聯網搜索和深度思考功能經常出現“服務器繁忙”的提示，嚴重影響了用戶體驗。除了官方，還有辦法擁有滿血、可聯網的DeepSeek嗎？答案是肯定的。比如近期移動云就推出了DeepSeek系列模型的免費體驗，通過接入云服務商的推理API，用戶...服務器DeepSeekRAGDeepSeek核心架構-DeepSeekMoE：細粒度專家劃分與共享專家隔離技術的深度解析！
圖1DeepSeekV2&DeepSeekV3基本架構。DeepSeekMoE架構的提出源于DeepSeek發表的論文《DeepSeekMoE:TowardsUltimateExpertSpecializationinMixtureofExpertsLanguageModels》，在DeepSeekV2、V3及R1中得到了更好的應用。1.DeepSeekMoE關鍵技術（1）DeepSeekMoE架構有兩個關鍵思想：細粒度專家劃分和共享專家隔離。細粒度專家細分以實現更高的專家專業化程度和更準確的知識獲取，共享專家隔離以減少專家之間的知識冗余。圖2DeepSee...DeepSeek核心架構動效資源交付的突破：Vision 平臺準入準出方案
原創導讀：快手動效Vision平臺為解決動效資源交付問題，引入了動效資源準入準出檢測機制。通過分析現有交付流程的痛點，平臺增加了了靜態和動態檢測服務，確保動效質量與性能。該套系統已成功召回并預防了多次線上問題，提升了使用動效資源的穩定性和效率。一、引言在系列文章的首篇??《快手前端動效大揭秘：告別低效，vision平臺來襲！》（點擊回顧）???中，我們探討了Vision平臺的整體架構和演進思路，特別是針對動效生產成...java動效前端高效注意力機制與硬件優化：硬件優化的稀疏注意力，長上下文建模
研究背景與意義在當今的語言模型研究中，長上下文建模被廣泛認為是提升模型能力的關鍵。然而，傳統的注意力機制在處理長序列時，計算復雜度高，導致顯著的延遲和資源消耗。研究者們逐漸意識到稀疏注意力機制可能是解決這一問題的有效途徑。本文提出了一種名為“NativeSparseAttention（NSA）”的機制，旨在通過算法創新與硬件優化的結合，實現高效的長上下文建模。研究背景長上下文建模的重要性：隨著應用需求的多樣化，長上下...硬件優化NSA
