AI.x社區
- 登錄/注冊
智勝模仿學習：SkillMimicGen引領機器人技能學習新潮流
原創機器人操作領域一直致力于讓機器人學會執行復雜任務，從模仿學習人類示范中汲取經驗是一個重要方法。但收集大量人類示范數據成本高昂且耗時，尤其對于長周期任務而言，這一問題更為突出。為解決這一困境，NVIDIA的研究團隊提出了SkillMimicGen（SkillGen）系統。該系統能夠從少量人類示范中生成大量高質量的演示數據集，為機器人學習提供充足的數據支持。今天我們就一起來學習一下這篇論文吧！1.任務分解與技能抽象SkillGen的核...機器人SkillMimicGen2024年AI代理的突破：CoAgents如何引領人機協同新潮流？
原創01概述現代大型語言模型（LLMs）的規模和能力，讓我們僅僅將它們用于文本摘要、文本補全、代碼補全等普通任務，似乎有些局限。它們的真正潛力在于圍繞這些模型構建系統，讓它們能夠：訪問、檢索和過濾相關來源的數據，分析和處理這些數據以做出實時決策等。RAG（RetrievalAugmentedGeneration）是構建此類復合AI系統的一個重要步驟：但RAG遵循程序化流程（作為程序員，您定義步驟、要搜索的數據庫、要檢索的上下文等），它并未...RAGCoAgentsLLMs#AIGC創新先鋒者征文大賽# 怎樣在 10k 個 H100 GPU 上訓練模型？
原創 精華??【本文正在參與AI.x社區AIGC創新先鋒者征文大賽】????https:www.ekrvqnd.cnaigc2223.html??編者按：怎樣在10,000個H100GPU上訓練大模型？如何充分利用每一塊GPU的算力？如何在這個復雜的GPU網絡中高效傳遞數據？當不可避免的硬件故障發生時，又該如何快速恢復訓練進度？我們今天為大家帶來的文章中，作者為我們揭示了應對這些挑戰的關鍵策略。作者SoumithChintala編譯岳揚我的好友FrancoisFleuret提出了上述問題。我迅...LLMAI有了大模型的應用經驗之后，再談對大模型的理解
原創?“大模型的本質就是一段有輸入和輸出，并能使用某種算法達到某種目的得計算機程序”在剛開始接觸大模型時，根本不明白大模型是個什么玩意，看著別人給出的定義一臉懵逼。不論是業內還是網上的文章，對大模型的普遍定義都是擁有巨大參數量和復雜計算的機器學習模型深度學習模型。從定義中能夠看出哪些東西？巨大參數量，復雜計算，機器深度學習模型。說句實話，對大部分人來說看了這玩意有什么用，有誰能用自己的話說明白什么...模型大模型能力關于調用第三方大模型服務商接口的感受
原創?“軟件開發的原則之一——每引入一個模塊風險就增大兩分”大家都知道作者現在做的是基于大模型的上層應用開發，之前主要做的工作流和自己部署大模型；雖然操作起來很復雜也很困難，但從功能開發的角度來說定制化比較強，開發也比較簡單。之前在搞工作流的時候感覺好復雜，主要時間都花在了運維上面，真正的功能開發時間并不長。這次有個功能需要用到第三方接口，本來以為不需要自己維護大模型能夠減輕很多壓力，只需要關注于...大模型能力大模型產品《Transformer 關鍵要素：非所有注意力皆必要》論文解讀
摘要：隨著基于Transformer的大型語言模型（LLMs）在各種任務中展現出強大性能，其規模的擴大也帶來了冗余結構的問題。本文通過基于相似性的度量方法，研究了Transformer中不同模塊（包括塊、多層感知機（MLP）和注意力（Attention）層）的冗余情況。發現大量注意力層存在過高的相似性，可在不降低性能的情況下進行修剪，從而降低內存和計算成本。還提出了一種聯合丟棄注意力和MLP層的方法，提高了性能和丟棄比例。一、研究背景...大型語言模型【學習挑戰賽】任務進階，完成就有獎品拿
精華邀請關注大模型、AIGC的開發者朋友們在此集結，參與社群打卡、直播周、技術沙龍、征文等多個活動。設置任務進階獎勵，完成任務就有獎品拿。此外還可參加抽獎、紅包領取等各類活動。活動時間10.1510.26活動介紹基礎任務，參與即獲獎在??社區帖子（點擊直達）??下點贊并評論區回復任何內容，即可獲得一份大廠大模型實踐干貨資料。一花任務，新手友好預約任意一場“AIGC充電學習直播周”??直播（點擊直達）??并在直播間提...挑戰賽AIGC大模型解讀AI大模型，從了解token開始
什么是Transformer？Transformer是一種新穎的神經網絡架構，它在2017年由Google的研究人員提出，用于解決機器翻譯等自然語言處理的任務。Transformer的特點是，它完全摒棄了傳統的循環神經網絡（RNN）和卷積神經網絡（CNN），而是采用了一種稱為自注意力機制（SelfAttention）的方法，來捕捉文本中的長距離依賴關系，提高了模型的效率和準確性。今天本文將圍繞自注意力機制，介紹Transformer的三個主要概念，位置編碼、注意力機...GPTTransformer模型Qwen2.5：13個新模型來襲！開源通用、編碼、數學模型全解讀，72B超越Llama 405B - 本地安裝測試
Qwen剛剛發布了13個新模型，這些新模型被稱為Qwen2.5。這次發布有三種類型的模型：通用任務模型、編碼模型和數學模型。通用任務模型有七種尺寸：0.5B模型、1.5B模型、3B模型、7B模型、14B模型、32B模型和72B模型。編碼模型有1.5B和7B尺寸，未來還會推出32B版本，但目前尚未提供。與此同時，數學模型有1.5B、7B和72B尺寸。這些模型都是開源的，并根據Apache2.0許可發布，除了3B和72B版本。他們還發布了Qwen2.5Plus和Turbo版本，...Qwen2.5新模型編碼從傳統 RAG 到圖 RAG，賦予大型語言模型更強大的知識力量
大型語言模型(LLMs)在固定數據集上進行訓練，其知識在最后一次訓練更新時就已固定。ChatGPT的常規用戶可能已經注意到其眾所周知的局限性：“訓練數據截止到2021年9月”。這種局限性會導致模型產生不準確或過時的響應，因為它們會“幻覺”信息。在不重新訓練或微調的情況下，用新信息更新模型或增強其上下文理解能力，在資源和人力方面都極具挑戰。檢索增強生成(RAG)檢索增強生成(簡稱RAG)是一種通過整合來自外部可靠知識庫的信...RAGRAG語言模型大模型數學能力翻車實錘！Apple新研究暴露真相!
這篇文章的結論是：LLM無法進行真正的推理。并做出了一系列的實驗論證，大模型僅僅是記住了目標序列。10月份有很多文章在論證這個事情。比如之前寫過一篇推文介紹大模型在規劃的能力上表現仍然非常糟糕（現實再次給大模型帶來沉重打擊）。后來在《PROCBENCH:BENCHMARKFORMULTISTEPREASONINGANDFOLLOWINGPROCEDURE》中驗證了一個結論：在沒有相關領域經驗或知識的情況下，LLMLRM似乎無法遵循基本指令，尤其是在指令長度增加時。...大模型數學AppleAnthropic 升級版 Claude 3.5 Sonnet 模型，像人一樣操控電腦？
在人工智能的創新之路上，Anthropic公司再次成為焦點，其推出的升級版Claude3.5Sonnet模型引發了廣泛關注與熱議。一個核心問題擺在我們面前：它真的能夠像人一樣操控電腦嗎？一、模型發展與新特性亮相Claude3.5Sonnet模型有著清晰的發展脈絡。2024年6月21日首次推出時，它就憑借在編碼、視覺和自然語言理解能力等方面的出色表現嶄露頭角，在基準測試中超越了諸多競爭對手。而2024年10月22日推出的升級版更是帶來了令人期待的新...AnthropicClaude 3.5模型OpenAI上新sCM！生成速度提升50倍，Scaling Law 再創奇跡：兩步采樣就出圖，實時視頻時代或將開啟！
原創傳統擴散模型要過時了？OpenAI找到一種新方法，直接把生成速度提高50倍！擴散模型在生成式AI領域的重要性不言而喻，把生成逼真的圖像、3D模型、音頻和視頻變為了現實。但是，擴散模型依然有個致命bug——采樣速度太慢。OpenAI研究的新方法，被稱為sCM（連續時間一致性模型）。sCM在僅使用兩個采樣步驟的情況下，實現了與領先擴散模型相當的樣本質量。來感受下sCM的速度：那么sCM為什么這么快呢，我們一起看看。1.提速50倍：Scal...OpenAIsCM視頻微軟內部工程師突爆料：OpenAI下一代模型11月即將上架，今天離職的AGI顧問：今天Lastday
原創編輯言征出品51CTO技術棧（微信號：blog51cto）大消息，OpenAI的下一代前沿模型獵戶座已經籌備發布了？24晚間消息，外媒TheVerge得到微軟內部工程師的曝料稱：該公司預計最早在11月就能獲得對OpenAI醞釀已久的Orion訪問權限，以便他們構建自己的產品和功能，這位工程師正在準備在Azure上托管Orion的工作。不過，Verge報道，這次Orion發布于此前版本不同，OpenAI會先給受信任的合作伙伴發布該模型，之后才會通過ChatGPT更廣泛地...OpenAIAI系統給你數據和算力，你也成不了 OpenAI
最近在研究大模型訓練和微調相關的內容，聽領導說的最多的一句話“那不是有數據有算力就能搞定的嗎”，于是調研了下qwen系列的訓練細節。再整理過程中，再次感慨，怪不得有了數據和算力，也不是每家公司都是OpenAI。Qwen2.5MathQWEN2.5MATHTECHNICALREPORT：TOWARDMATHEMATICALEXPERTMODELVIASELFIMPROVEMENT1.預訓練階段Qwen2.5Math的預訓練階段是在Qwen2Math的基礎上進行改進的。這個階段的主要目標是構建一個高質量、數學內...OpenAI模型? 程序Pandas AI: 一款可以智能做數據分析的工具！
原創01.概述PandasAI是一個開源項目，旨在為Pandas庫添加AI功能，它允許用戶通過自然語言查詢來輕松地與數據進行交互。這個庫利用生成式人工智能技術，使用戶能夠探索、清理和分析數據，而無需編寫復雜的代碼。02.特性PandasAI是一個增強了Pandas功能的人工智能工具，它通過生成式AI技術來提升數據分析的能力。以下是PandasAI的一些主要特性：增強的數據分析能力：PandasAI擴展了Pandas的核心功能，使其能夠處理更復雜的數據分析任...Pandas AI開源數據分析FP8 預訓練真的成熟了嗎：一些實踐和分析
一、背景之前我們已經總結過FP8的發展歷程，以及其在大規模語言模型（LLM）訓練和推理中的應用。如今，FP8推理幾乎已經成為行業共識，許多LLM推理框架已經支持FP8推理，且多家公司也開源了相應的FP8模型。例如，Meta在最近發布的LLaMA3技術報告中就提到了FP8推理的應用。FP8推理相比INT8推理的最大優勢在于其后訓練量化（PTQ，PostTrainingQuantization）能夠獲得幾乎無損的精度，同時顯著提升推理速度。例如，相比FP16，在NVID...FP8預訓練LLM基于自定義數據集的YOLOv8模型實戰
原創本文將通過一個完整的實戰案例來展示使用Python、命令行或GoogleColab等方式在自定義數據集上訓練自己的計算機視覺模型。簡介當前，Ultralytics公司研制的高級YOLOv8模型成為解決計算機視覺問題的最佳方法之一，同時該模型也最大限度地減少了有關開發過程遭遇的麻煩。YOLOv8是UltralyticsYOLO（YouOnlyLookOnce）系列模型的第8次也是最新一次迭代，與其他迭代一樣，它使用卷積神經網絡（CNN）來預測對象類別及其邊界框。YOLO系...YOLOv8模型神經網絡計算機視覺剛剛，OpenAI發布sCM提升50倍效率，擴散模型重大技術突破！
原創1、sCM新擴散模型在今日凌晨，OpenAI推出了創新的擴散模型方法sCM，這一方法僅需兩步驟即可生成高質量的圖片和3D模型，實現了高達50倍的時鐘速度提升，特別是在處理高分辨率任務時表現尤為出色。舉例來說，利用sCM訓練的一個擁有15億參數的模型，在單個A100GPU上，無需進行任何推理優化，就能在0.11秒內完成內容的生成。目前，在擴散模型中生成圖片速度最快的是StabilityAI開源的SD快速版本，它需要四步來生成高質量圖片。而sCM...OpenAIsCM點滴成就，創造未來無限可能
回顧今年，來自海內外的開發者們將Google技術創新融入實際應用，面向全球舞臺展示著他們卓越的創造力與實踐能力，在海外市場中探索新的可能性與機遇。這些來自不同背景的故事經歷和創意作品，在多元的出海和開發環境中激發了更多開發者的內在驅動力:智創之力開發者們通過AI技術，助力日常生活和工作變得更加便捷與高效。他們還通過創新的解決方案，將智能化融入生活，為社會帶來了積極的影響，推動了更美好的未來。博主黑皮諾的...谷歌
