AI.x社區
- 登錄/注冊
Dify從入門到高階系列二：手把手教學！超詳細的Dify知識庫配置全攻略
原創
社區頭條Dify作為一款先進的AI應用開發平臺，其檢索增強生成(RAG)功能為知識管理提供了強大支持。本指南將詳細介紹如何利用該平臺搭建高效知識庫系統。在模型選擇方面，雖然本示例采用OpenAI的接口，但平臺同樣兼容各類本地化模型部署方案，如Ollama框架等。前置知識數據采集階段支持多格式文檔上傳接口智能文檔解析與內容提取內容結構化處理自適應文本分塊算法向量空間映射轉換高維索引存儲方案查詢響應機制語義向量實時計算多維度相似...DifyRAGAI大模型面經：RAG與Long context“相愛相殺”背景下，如何設計最優解決方案？
原創本篇分享RAG與longcontext結合的實踐方案。本篇始于一個老生常談的話題，“一旦大模型的ContextLength變大，RAG還有沒有存活的必要？”RAG主要通過問題從知識庫中找相關答案，然后把檢索到的內容再用大模型總結；Longcontext相當于把全部文本內容輸入給大模型，利用大模型查找或總結。這兩者評估的維度包括成本、是否使模型變得更智能、是否可以混合檢索和推理、是否可以緩存、推理時間等等。其實兩者之爭也相當于左右手之爭，...大模型RAG【模型測試】基于OpenCompass構建Dify應用的自定義評測體系
原創背景隨著我們在Dify平臺上不斷開發新的Agent，我們需要對Agent的能力是否滿足預期進行評估。因此，本章內容主要介紹我們設計Agent評測數據集體系思路以及具體實施方案。目標建立一個評估Dify平臺上Agent基礎能力的評測體系。方案假設我們在Dify平臺上開發了一個專利輔助助手Agent，如果我們要對該Agent進行能力評估，那么評估維度大致分為兩層：基礎能力層基礎能力評估層，主要是Agent的通用能力進行評估，大體評估項以及評估指...模型測試大模型評測大模型在企業場景中應該怎么部署大模型——大模型企業級部署框架介紹
原創“隨著大語言模型（LLM）的廣泛應用，如何高效部署和推理模型成為開發者關注的核心問題。”隨著大模型的成本越來越低，以及企業生產中對大模型的定制化需求，越來越多的企業選擇在本地部署大模型；這樣既滿足了數據安全性需求，同樣也增加了企業定制化的選擇。但由于大模型是資源大戶，再加上并發性需求，因此選擇一個好的高性能的大模型部署框架是很多企業都要面臨的主要問題。所以，今天就來介紹幾種部署大模型的方式和框架。...大模型大模型能力大模型應用英偉達開源15T數據集：32萬個機器人訓練軌跡
全球AI領導者英偉達開源了，用于實體機器人和自動化駕駛的超大訓練數據合集——NVIDIAPhysicalAIDataset。這個數據集一共15T，涵蓋了超過320,000個機器人訓練軌跡，以及多達1,000個通用場景描述，還包括一個SimReady集合。此外，用于支持端到端自動駕駛汽車（AV）開發的專用數據即將推出，這些數據將包括來自美國1,000多個城市和歐洲二十多個國家的多樣化交通場景的20秒剪輯，這對于訓練自動化駕駛非常珍貴。開源地址：??http...英偉達機器人開源媲美OpenAI-o3，剛剛開源模型DeepCoder，訓練方法、數據集大公開
今天凌晨4點，著名大模型訓練平臺TogetherAI和智能體平臺Agentica，聯合開源了新模型DeepCoder14BPreview。該模型只有140億參數，但在知名代碼測試平臺LiveCodeBench的測試分為60.6%，高于OpenAI的o1模型（59.5%），略低于o3mini（60.9%）。在Codeforces、AIME2024上的評測數據同樣非常出色，幾乎與o1、o3mini差不多。值得一提的是，TogetherAI不僅開源了DeepCoder14B模型權重，還把訓練數據集、訓練方法、訓練日志和優化方法全...模型AI智能使用人工智能幻覺評估圖像真實感?
原創 社區頭條本文提出了一種使用人工智能幻覺來評估圖像真實感的新方法，對此方法的實現原理進行詳細闡述，并給出詳細的實驗結果證明。引言最近，俄羅斯的一項新研究提出了通過一種非常規方法來檢測不切實際的人工智能生成的圖像。這種方法的主要思想是：不是通過提高大型視覺語言模型（LVLM）的準確性，而是通過有意利用它們??產生幻覺的傾向??。?這種新方法使用LVLM提取有關圖像的多個“原子事實”，然后應用??自然語言推理??（N...人工智能語言模型幻覺評估Llama4 模型細節 & 效果實測
MetaAI發布了Llama4模型，終于來啦！開源社區也是等了很久。本次共兩系列模型Scout和Maverick模型，兩個模型均為MoE架構模型，DeepSeek得含金量還在提高，哈哈哈！榜單效果反正是杠杠滴。HF模型路徑：https:huggingface.cocollectionsmetallamallama467f0c30d9fe03840bc9d0164模型的總體信息如上圖所示，模型MoE架構中，無論是Scout還是Maverick，激活的路由專家數據均為1，有點奇怪，之前MoE架構一般激活路由專家數據都是2或更...Llama4模型開源EDC2-RAG：利用聚類和壓縮技術提升RAG準確性
精華 社區頭條該框架不僅能夠有效挖掘潛在的跨文檔關系，還能同時去除無關信息和冗余內容。我基于GPT3.5構建的方法在多個常用的知識問答和幻覺檢測數據集上進行了驗證。實驗結果表明，該方法在各種場景和實驗設置下均實現了性能的顯著提升，展現出強大的魯棒性和廣泛的適用性。https:arxiv.orgabs2504.03165一、為什么需要高效動態聚類文檔壓縮技術？1.1大語言模型的挑戰與檢索增強生成（RAG）的興起近年來，大語言模型（LargeLanguageModels...EDC2-RAG壓縮技術聚類萬字綜述 LLM 訓練中的 Overlap 優化：字節 Flux 等7種方案
社區頭條一、背景在大規模分布式訓練場景中，計算和通信的重疊（Overlap）一直是一個關鍵的研究熱點。隨著硬件性能的提升，計算能力和通信帶寬之間的差距日益顯著。如下圖所示，硬件算力每2年大約擴大3x，而通信帶寬每2年只提升1.4x，這種差距帶來的影響在大規模訓練任務中愈加明顯。例如，在使用H100和A100集群進行LLM訓練時，H100的通信開銷占比通常會高于A100。這種情況下，通信可能成為了系統性能的瓶頸，因此，如何在計算和通信之...LLMOverlap優化字節 TileLink：編譯生成高效的計算和通信 Overlap Kernel
一、背景筆者之前的文章（萬字綜述LLM訓練中的Overlap優化：字節Flux等7種方案）中詳細介紹過各種計算與通信Overlap的方案，這里進一步介紹字節最近發表的TileLink，其中提到的大部分工作已經包含在我們之前的綜述中，建議優先閱讀，比如CoCoNet、Centauri、Flux等。對應的論文：[2503.20313]TileLink:GeneratingEfficientComputeCommunicationOverlappingKernelsusingTileCentricPrimitives[1]二、摘要大規模深度學習模型通常...字節TileLink編譯深入解析Agentic AI架構：如何打造自主決策的智能體？
原創在人工智能的浪潮中，AgenticAI架構正悄然崛起，成為推動智能體（AIAgents）實現自主決策和復雜任務執行的核心技術框架。與傳統的AI模型不同，AgenticAI架構更像是一個“智能大腦”，能夠模仿人類的認知能力，自主感知環境、制定計劃、執行決策，并在動態變化的環境中不斷學習和進化。今天，我們將深入探討AgenticAI架構的核心組件、工作原理以及它在各行業中的廣泛應用。無論你是技術愛好者，還是企業決策者，這篇文章都將為你...Agentic AI架構多智能體（Multi Agent）AI系統：企業智能化轉型的未來
原創 社區頭條在當今數字化時代，人工智能（AI）已經不再僅僅是一種工具，它正在演變為一個智能勞動力，由眾多能夠自主規劃、推理和執行任務的AI智能體組成。多智能體系統（MultiAgentSystems，簡稱MAS）的興起正在徹底改變企業的運營方式，通過讓專業化的AI智能體無縫協作，攻克IT、人力資源、客戶服務等多個領域的復雜工作流程。從單一任務自動化向協調決策的AI智能體轉變，這不僅僅是一種新興趨勢，更是一種戰略必然。如今，“代理型AI（A...多智能體Multi Agent智能體轉型RAG進階技術！這十種方法你一定要知道
原創在當今這個信息爆炸的時代，AI系統已經深入到我們生活的方方面面，從醫療健康助手到教育輔導工具，再到企業知識管理機器人，AI正在幫助我們更高效地獲取和處理知識。但隨著應用場景的復雜化，傳統的AI系統面臨著諸多挑戰：如何生成真正相關的回答？如何理解復雜的多輪對話？如何避免自信地輸出錯誤信息？這些問題在基于RAG（RetrievalAugmentedGeneration，檢索增強生成）的系統中尤為突出。RAG結合了文檔檢索的強大能力與語言...RAGAI【模型測試】ai-eval-system在線評測系統v0.2預覽版本介紹
原創 社區頭條aievalsystem這是一個基于OpenCompass的模型評測系統，該系統提供了前端頁面UI以方便用戶自助開展評測工作。項目地址??https:github.comdomonic18aievalsystem??版本發布v0.2：支持API方式進行Dify平臺應用的評測優化評測任務創建時的交互過程，包括APIURL等信息的輸入、數據集的選擇、評測信息的確認優化評測任務頁面的顯示，區分我的評測和全部評測優化評測任務終止時使用Celery原生方法不穩定的問題服務進行Docker化，方...模型測試大模型大模型評測MCP 架構設計剖析：從 Service Mesh 演進到 Agentic Mesh
原創 精華 社區頭條MCP最近越來越火熱，MCP從架構設計的角度來看，它本質上是數據或者工具的代理層（Proxy），隨著多Agents智能體應用在企業復雜業務場景中的落地，如何讓自主Agent間能夠相互發現、協作、互動和交易？AgenticMesh應運而生。而MCP架構正是AgenticMesh的一種落地實現方式，下我詳細剖析。為了幫助大家理解Mesh架構的設計，我們先剖析下ServiceMesh。1、ServiceMesh架構設計剖析第一、ServiceMesh架構定義微服務架構繼續演進，就變成...MCP架構Service MeshAgentic Mesh突破傳統數學批改！這個AI系統能給你的每一步解題過程打分
?1、開篇：你是否曾有過這樣的困惑？圖片還記得那些被老師批改得密密麻麻的數學作業嗎？"答案對了，但過程錯了"的批注可能曾讓我們感到困惑。在傳統教學中，教師們往往需要花費大量時間批改學生的習題，尤其是對解題步驟的評判更是耗時耗力。而當面對大量作業時，老師們很難對每個學生的每一步解題過程都給予詳細的反饋。如今，AI教育技術正在悄然改變這一切。最新研究提出的StepAMC系統能夠自動分析學生解題的每一個步驟，識...傳統數學批改AI系統MedSAM2: 3D醫療圖像和視頻的全能分割模型、DeepResearcher: 通過真實環境強化學習實現深度研究
?今日目錄1、MedSAM2:3D醫療圖像和視頻的全能分割模型2、DeepResearcher:通過真實環境強化學習實現深度研究3、APIGenMT:通過模擬代理人類互動生成高質量對話數據4、更大的語言模型是否意味著更好的推理能力？預訓練推理縮放規律5、何時求解，何時驗證：計算最優問題求解與LLM推理的生成驗證6、突破傳統數學批改！這個AI系統能給你的每一步解題過程打分1、MedSAM2:3D醫療圖像和視頻的全能分割模型圖片MedSAM2模型通過在超過45.5...MedSAM23D醫療圖像中國科大認知全重實驗室發布Agent-R1訓練框架，支持自主思考與工具調用！
什么是AgentR1AgentR1是由中科大認知智能全國重點實驗室開發的智能體強化學習訓練框架，致力于推進強化學習與智能體技術的融合發展。框架采用端到端強化學習方法，突破了依賴人工設計工作流的傳統智能體開發瓶頸，讓AI直接從與環境的交互中學習最優策略，實現自主決策與行動。開發者只需定義特定領域的工具和獎勵函數，即可將AgentR1擴展到各種應用場景，無需編寫復雜的工作流程。背景隨著大型語言模型(LLM)技術的快速發展，智...Agent-R1訓練框架快速傅里葉卷積（FFC） 的在故障診斷中的應用！
本期推出一種基于快速傅里葉卷積的FFCResNet的網絡模型，通過把ResNet中常規卷積替換為快速傅里葉卷積，提升了卷積神經網絡（CNN）的性能，并應用在軸承故障診斷任務上，取得了不錯的效果！通過巧妙融合快速傅里葉變換（FFT）的卓越性能，快速傅里葉卷積（FFC）成為了執行卷積操作的高效利器，尤其是在渴求全局性上下文理解與跨尺度特征無縫融合的場景下展現出了非凡優勢。這種創新性的頻域處理手段，不僅顯著提升了特征提取的...傅里葉卷積FFC故障信號
