嘿，大家好！這里是一個專注于AI智能體的頻道！今天跟大家聊一些關于Agent發展的事情。如果說去年是RAG的元年，大家都在naiveRAG中添加各種技巧，使其變成AdavancedRAG。今年應該就是Agent的元年，年初RAG的迭代變成了AgenticRAG的發展方向，上半年Agent、Agentic、workflow等名詞的爆火。當然后來到年終，RAG炒作到了RAG2.0、GraphRAG等上面，最近的RAG炒作變成了MemoryRAG，或者RAG已死等等相關的盡管智能體Agent很熱門，但它...

編者按：隨著2024年被業界譽為“AIPC元年”，各大筆記本電腦廠商紛紛推出搭載NPU的全新AIPC，而在介紹產品性能時，“NPU”一詞頻頻被提及。但NPU和我們所熟知的GPU之間的區別究竟是什么？我們今天為大家分享的這篇文章將和大家一起初探NPUvsGPU。簡而言之，NPU專為加速AI任務而設計，包括深度學習和推理，能夠高效地處理大量數據，并利用專用存儲器快速執行復雜的AI算法。與GPU相比，NPU體積更小、成本更低、能耗更小，且在特定...

論文鏈接:https:arxiv.orgabs2409.02048GitHub鏈接：https:github.comDrexuberyViewCrafter項目鏈接:https:drexubery.github.ioViewCrafterDemo鏈接:https:huggingface.cospacesDoubiiuViewCrafter?亮點直擊本文提出了一種迭代視圖合成策略，并結合內容自適應相機軌跡規劃算法，以逐步擴展新視圖覆蓋的區域和重建的點云，從而實現遠距離和大范圍的新視圖合成。本文的方法在多個具有挑戰性的數據集上表現出色，不僅在合成新視圖...

隨著科技的發展，時尚領域也迎來了新的革命。傳統的試衣方式逐漸被現代科技所取代，虛擬試衣間的出現使得用戶可以在舒適的家中輕松體驗不同的服裝風格。先前給大家也介紹過一些虛擬試衣的技術，例如AnyFit或者OutfitAnyone等，今天AIGCer給大家介紹一款親測效果超棒的，可在線操作的平臺———DressPlay，是由新加坡華人團隊自主研發。它是這場時尚變革中的佼佼者，通過先進的人工智能技術，為用戶提供了一種全新的試衣體驗。更...

一、背景我們之前介紹過一些LLM模型融合或堆疊的方案，然而這些方案通常需要人工設計或者繼續訓練、微調，這里我們介紹一篇新的工作試圖解決這些問題，其思路很有意思，為后續的模型生產提供了一條思路，也得到了意想不到的結果。需要說明的是，雖然開源了代碼，單開源代碼中并沒有開放如何合并的代碼，導致合并的細節無法獲知。此外，相應的代價有多高也沒有具體介紹，比如評估成本。對應的論文為：[2403.13187]EvolutionaryOp...

?一、結論寫在前面論文標題：MemLong:MemoryAugmentedRetrievalforLongTextModeling論文鏈接：https:arxiv.orgpdf2408.16967LLMs在各個領域的最新進展取得了顯著的成功。然而，由于注意力機制的二次時間和空間復雜性以及生成過程中鍵值緩存的內存消耗不斷增加，處理長上下文仍然是LLMs的一個重大挑戰。論文提出了MemLong，一種高效且輕量化的方法，用于擴展大型語言模型（LLMs）的上下文窗口。其核心思想是將過去的上下文和知...

1創新模型效果：1.1模型評估：1.2風電功率預測可視化：1.3電力負荷預測可視化：2模型創新點介紹2.1結合Informer和BiGRUGATT的優勢Informer：擅長處理長時間序列，能夠并行計算，提高了計算效率和預測性能。Informer在Transformer的基礎上進行了改進，使其更適合時序數據，特別是具有長時間依賴的序列數據。BiGRUGlobalAttention：通過雙向門控循環單元（BiGRU）同時從前向和后向對序列進行建模，以更好地捕獲序列中的依賴關系，...

大型語言模型（LLMs）在自然語言處理（NLP）領域促進了重大進展，但它們也面臨著諸如幻覺和需要特定領域知識等挑戰。為了緩解這些問題，最近的一些方法將從外部資源檢索到的信息與LLMs相結合，顯著提高了它們在NLP任務中的表現，但是缺乏對檢索增強型語言模型（RALM）全面概述。因此，對包括檢索增強生成（RAG）和檢索增強理解（RAU），提供了對它們的范式、演變、分類和應用的深入、全面綜述。圖1：RALM研究總體概述一、RALM是...

文章鏈接：https:arxiv.orgpdf2403.15385工程地址：https:research.nvidia.comlabstorontoaiLATTE3D最近的文本到3D生成方法產生了令人印象深刻的3D結果，但需要對耗時進行優化，每個提示可能需要長達一小時。像ATT3D的Amortized方法同時優化多個提示以提高效率，實現了快速文本到3D合成。然而，它們無法捕獲高頻幾何和紋理細節，并且難以擴展到大型提示集，因此泛化能力較差。本文介紹了Latte3D，解決了這些限制，實現了在顯著...

自動代碼生成技術近年來取得了顯著進展，特別是在自然語言處理（NLP）領域。大型語言模型（LLMs）如GPT4o和Codex展示了將自然語言翻譯成可執行代碼的非凡能力。然而這些單體模型在可擴展性、效率和靈活性方面仍面臨重大挑戰。訓練和推理階段所需的巨大計算資源限制了這些模型的普及性，同時也引發了關于其可持續性和環境影響的擔憂。此外，這些模型在處理復雜編程任務時，往往缺乏實時適應性和動態調整能力。神經科學的研究表明...

在前面的文章里，我們介紹了很多有關提示工程的前沿技術與工具，它們都揭示了一個共識性方向，就是提示工程不僅僅是人機對話的語言藝術，更是一個持續迭代優化的系統性軟件工程。近日，OpenAI前研究科學家william對外正式開源了一個號稱面向未來的提示工程庫，名為ell[1]，它將提示視為函數，并提供了一系列強大的工具來優化和管理提示。在這個庫中有一些核心設計理念值得大家學習借鑒。提示是程序，而不是字符串在傳統的提示工...

本文介紹如何使用Milvus、GenAI、LangChain、YoLo等工具為向量數據庫創建、構建和設計復雜的非結構化數據應用程序。應用程序的目標本文將介紹如何構建高級數據模型，并將其用于攝取和各種搜索選項。對于記事簿（Notebook）部分，將運行混合多向量搜索，對結果進行重新排序，并顯示結果文本和圖像。?攝取數據字段，通過查找和格式化來豐富數據：學習攝取包括JSON和圖像在內的數據，格式化和轉換以優化混合搜索。這一過程在stree...

今天分享一篇普林斯頓大學的一篇文章，TreeofThoughts:DeliberateProblemSolvingwithLargeLanguageModels[1]：思維之樹:用大型語言模型解決復雜問題。這篇工作還是非常有借鑒意義的，OpenAI的AndrejKarpathy（前TeslaAI高級總監、自動駕駛Autopilot負責人）在stateofgpt[2]中也分享了這篇文章，其可以通過搜索多條解決路徑，利用dfs以及bfs等算法，像人類一樣利用回溯、剪枝等策略來思考和解決問題，可以讓GPT4解決一些更復雜的...

介紹根據觀測數據執行預測是廣泛科學學科中普遍關注的問題。傳統上，科學家們通過開發數學模型來解決這個問題，這些模型利用他們對潛在物理過程的了解將觀察與預測聯系起來。然而，在許多實際情況下，由于缺乏系統特定信息，構建這種顯式模型是不可行的.近年來，出現了一類涉及人工智能（AI）的純數據驅動方法，并取得了顯著的成功.這些方法通常被稱為黑盒模型，因為它們不依賴于對系統內部工作原理的深入理解，并且旨在直接從...

引言隨著科技公司及國際競爭的不斷推進，AI大模型已經越來越多融入我們的生活。作為一個普通人或許不需要研究高深的AI算法，但想在這次AI浪潮中不被拋棄，必須對LLM原理有一個基本的理解。理解LLM（即LargeLanguageModel，大語言模型）如何生成文本也就意味著理解這些模型為什么是如此通用的認知引擎——以及它們還能幫助創造什么。令牌化和向量化（Token&Vectorization）首先，讓我們從令牌化和向量化開始，這一部分內容將為大...

一、引言現代研究發現，訓練大語言模型（LLMs）時增加計算量會帶來更好的結果，但在推理時增加計算量的好處卻較少被關注。本文聚焦于推理時的方法，探討了令牌級生成算法、元生成算法和高效生成這三個主題。二、相關概念及背景1、用戶目標在生成中的作用：用戶使用語言模型生成輸出時，可能希望獲得高質量、多樣化的輸出，例如解決數學問題的正確答案或符合事實且寫得好的總結。為了形式化這個目標，我們引入了“可接受性”的概...

RAG技術已經成為當下提升大語言模型（LLMs）生成質量的重要手段。然而，傳統的RAG方法在處理模糊信息需求或非結構化知識時存在顯著局限性。近期，一項名為《MEMORAG:MOVINGTOWARDSNEXTGENRAGVIAMEMORYINSPIREDKNOWLEDGEDISCOVERY[1]》的研究提出了一種創新的RAG框架——MemoRAG，通過引入長時記憶模塊，顯著提升了RAG系統在復雜任務中的表現。MemoRAG的創新架構現在我們仍然以圖書館找書為例介紹MemoRAG的思路。想象一下，你在...

法國國家高等教育計算中心、巴黎薩克雷大學的研究人員聯合開源了專用于法律領域的大模型——SaulLM。SaulLM一共有540億、1410億兩種參數，以及基礎模型和指令微調兩種版本。SaulLM的最大特色是使用了5400億token的專業法律數據進行了預訓練，包括美國、歐洲、澳大利亞等地的法律文本，輸出內容的準確率高于很多同類模型。開源地址：https:huggingface.coEquallSaulLM54Base指令微調：https:huggingface.coEquallSaulLM141BInstr...

論文鏈接：https:arxiv.orgpdf2405.14854項目鏈接：https:github.comLuckyLanceTerDiT最近在大規模預訓練的文本到圖像擴散模型方面的發展顯著提高了高保真圖像的生成能力，特別是基于transformer架構的擴散模型（DiTs）的出現。在這些擴散模型中，擴散transformer展示了卓越的圖像生成能力，降低了FID分數并提高了可擴展性。然而，由于其龐大的參數數量，部署大規模的DiT模型可能會非常昂貴。盡管現有研究已經探索了擴散模型的...

文章鏈接：https:arxiv.orgpdf2409.04004git鏈接：https:github.comdailensonOneDM亮點直擊提出一種創新的擴散模型，用于生成風格化的手寫文本。這一模型的顯著特點是只需一個參考樣本作為風格輸入，便能模仿該樣本的書寫風格，生成任意內容的手寫文本。這種方法的簡化使得風格化手寫文本的生成更加高效和便捷。引入了參考樣本中的高頻成分，以增強手寫風格的提取。通過采用這種風格增強模塊，能夠更精確地捕捉書寫風格的細微模...