AI.x社區
- 登錄/注冊
優雅談大模型：“System2”與“System 1”
System1和System2的思維來自丹尼爾·卡尼曼（DanielKahneman）的《思考，快與慢》一書。里面介紹了兩種不同的認知處理模式。System1快速、自動且直觀，幾乎無需費力即可操作。這種思維模式使人類能夠根據模式和經驗做出快速決策和判斷。相比之下，System2是緩慢的、深思熟慮的和有意識的，需要有意識地努力。這種類型的思維用于復雜的問題解決和分析任務，在這些任務中需要更多的思考和考慮。上下班途中，人總是知道該走哪條路...模型System2System力壓Transformer，詳解Mamba和狀態空間模型
精華大型語言模型（LLMs）之所以能夠在語言理解與生成上取得巨大成功，Transformer架構是其強大的支撐。從開源的Mistral，到OpenAI開發的閉源模型ChatGPT，都采用了這一架構。然而，技術的探索從未止步。為進一步提升LLMs的性能，學界正在研發能夠超越Transformer的新架構。其中，Mamba模型以其創新的狀態空間模型（StateSpaceModel）成為研究的焦點。本文介紹Mamba模型及其在語言建模領域的應用，逐步解析狀態空間模型的基本概念，...Mamba狀態空間模型AI Agent的未來在哪里？LangChain CEO探討記憶、工具與自主規劃的完美融合
嘿，大家好！這里是一個專注于AI智能體的頻道！今天我要跟大家聊聊AI界的大新聞，是關于AIagents的未來。最近，LangChain的CEOHarrisonChase在紅杉資本的一個活動上，分享了他對Agent未來發展的一些深刻見解。視頻地址：https:www.youtube.comwatchvpBBe1pk8hf4首先，簡單科普一下LangChain。它是一個超火的編碼框架，專門用來整合各種AI工具，讓開發者們能輕松構建復雜的應用程序。AIAgent就是這個框架潛力的典型代表。簡單來...AI工具Agent人工智能在低代碼和無代碼開發中的積極作用
原創將人工智能技術集成到低代碼和無代碼開發中，可以利用自動代碼生成和智能助手等功能加速應用程序的創建。大型語言模型(LLM)的出現導致人們爭相將人工智能(AI)技術集成到每個有意義的產品中，甚至包括許多毫無意義的產品。但有一個領域，人工智能已經被證明是一個強大而有用的補充：低代碼和無代碼的軟件開發。以下將介紹人工智能如何以及為什么使構建應用程序更快、更容易，尤其是使用低代碼和無代碼工具。人工智能在應用程序開...人工智能低代碼無代碼中科大聯合華為諾亞提出Entropy Law，揭秘大模型性能、數據壓縮率以及訓練損失關系
本工作由中科大認知智能全國重點實驗室IEEEFellow陳恩紅團隊與華為諾亞方舟實驗室完成。陳恩紅教授團隊深耕數據挖掘、機器學習領域，在頂級期刊與會議上發表多篇論文，谷歌學術論文引用超兩萬次。諾亞方舟實驗室是華為公司從事人工智能基礎研究的實驗室，秉持理論研究與應用創新并重的理念，致力于推動人工智能領域的技術創新和發展。數據是大語言模型（LLMs）成功的基石，但并非所有數據都有益于模型學習。直覺上，高質量的樣...數據訓練無限生成視頻，還能規劃決策，擴散強制整合下一token預測與全序列擴散
近日，MITCSAIL的一個研究團隊（一作為MIT在讀博士陳博遠）成功地將全序列擴散模型與下一token模型的強大能力統合到了一起，提出了一種訓練和采樣范式：DiffusionForcing（DF）。論文標題：DiffusionForcing:NexttokenPredictionMeetsFullSequenceDiffusion論文地址：https:arxiv.orgpdf2407.01392項目網站：https:boyuan.spacediffusionforcing代碼地址：https:github.combuoyancy99diffusionforcing?如下所示，擴散強制在一...模型訓練DSARE：當傳統NLP遇到LLM后的關系提取新思路
精華1.背景關系提取是指通過自然語言處理技術從非結構化文本中確定兩個實體之間的關系。圖片如上圖所示，大多數傳統的關系提取（RelationExtraction，RE）方法是為RE任務量身定制，但是這些方法往往缺乏特定領域的先驗知識。特別是當可供配置資源空間太少的時候，比如FewShotRelationExtraction（FSRE）場景。另一方面，基于LLM的新方法卻存在相反的問題，盡管隨著模型規模和語料庫的增大，LLMs擁有大量先驗知識，但是由于LLMs往往...DSARELLMNLPLLM 預訓練語料、預處理和數據集索引、加載總結
精華一、背景介紹LLM的模型參數量很大，其模型效果也需要巨大的語料庫支撐，LLM預訓練需要的Token數已經從早期的300BToken逐漸增加到1.4T，甚至進一步擴展到3T以上。本文中我們具體介紹LLM預訓練語料庫的來源，構建語料庫的預處理過程以及LLM預訓練的Dataset存儲、混合、加載方式。二、常見語料庫雖然不同LLM的模型大小不同，預訓練的Token數也各不一樣，但是其原始的語料都大同小異，主要有幾種類型：CommonCrawl、Wikipedia、Book...LLM預處理索引上海交大、復旦、上海 AI Lab引入漸進學習框架來驗證弱到強的推理
?一、結論寫在前面論文標題：WeaktoStrongReasoning論文鏈接：??https:arxiv.orgpdf2407.13647??代碼等：??https:github.comGAIRNLPweaktostrongreasoning??當大型語言模型(LLMs)超越人類水平能力時，為這些模型提供全面且準確的監督變得愈發困難。弱到強學習，即利用能力較弱的模型來解鎖更強大模型的潛在能力，在此背景下被證明是有價值的。然而，這種方法在復雜推理任務中的有效性仍未得到驗證。此外，在弱到強設置...AI框架驗證ElevenLabs悄然推出最強文本轉語音模型，Turbo2.5模型成行業領頭羊
在AI浪潮席卷全球之際，ElevenLabs悄然推出的Turbo2.5文本轉語音模型，猶如一記重拳，直擊AI語音合成領域的痛點。這款模型不僅是技術的集大成者，更是成為行業的領頭羊。ElevenLabs悄悄推出Turbo2.5文本轉語音模型，相當低調Turbo2.5模型在速度上的飛躍，堪稱摧枯拉朽。響應時間控制在400毫秒以內，普通話等27種語言的響應速度提升三倍，英語提速25%，這不是簡單的數字游戲，而是對整個行業的降維打擊。將AI語音合成推向了近乎...文本語音模型視覺語言模型能夠“看見”嗎？
來自奧本大學和阿爾伯塔大學的研究人員發現，最先進的具有視覺能力的大型語言模型（VLMs）在理解涉及基本幾何形狀的空間信息方面表現得非常糟糕，例如判斷兩個圓是否重疊。他們提出了一個名為BlindTest的新基準測試，包括7項簡單任務，這些任務在互聯網上自然語言中不太可能有現成答案，以測試VLM像人類一樣“看見”圖像的能力。現有的VLM基準（如MMMU和ChartQA）涵蓋了廣泛的主題，但輸入圖像并非總是回答問題所必需的，即答案...視覺語言模型谷歌發布專用于個人健康的大語言模型PH-LLM
隨著智能手表、健身追蹤器等可穿戴設備的普及，使得我們能持續監測健康狀況，包括睡眠質量、日常活動、心率和血壓等。但如何有效利用這些數據，并從中找出一些健康問題，對于普通用戶來說卻很難。所以，谷歌的研究人員在Gemini模型的基礎之上，微調出了專用于個人健康的大語言模型PHLLM。用戶通過將健康數據與PHLLM相結合，就能快速獲取個性化健康建議、日常疾病問答、健康報告預測等專家級醫療咨詢服務。論文地址：https:arxiv...模型生成登頂新SOTA！阿里新開源語音模型Qwen2-Audio ，實測優于 Gemini-1.5-pro，網友：離GPT-4o只差一步
原創SOTA水準的Qwen2家族又迎來了新成員！阿里云發布并開源語音模型Qwen2Audio。GitHub：??https:github.comQwenLMQwen2Audio??論文：??https:arxiv.orgpdf2407.10759??作為大規模的音頻語言模型，Qwen2Audio能夠接受各種音頻信號輸入，并執行音頻分析或根據語音指令直接進行文字響應。很妙的是，在Qwen2Audio支持的語音聊天（但沒有音頻輸出）和音頻分析這兩種交互模式之間，模型可以自主判斷，并在這兩種模式之間智能地切...GPT-4o模態語音OpenAI正式打響海外價格戰，GPT-4o mini成地表最強小模型，百萬tokens僅需60美分
精華OpenAI于7月19日凌晨推出了一款新品——GPT4omini，立即在科技圈引發熱議。這款被譽為"小而精"的AI模型，是GPT4o的精簡版本，旨在為用戶提供更高性價比的AI體驗。OpenAI在7月19日凌晨發布GPT4omini據OpenAI介紹，GPT4omini支持128k、16k輸入tokens，包括圖像和文本。在定價方面，每百萬輸入tokens收費15美分（約1.09元人民幣），每百萬輸出tokens收費60美分（約4.36元）。這一價格策略使得GPT4omini比GPT3.5Turbo便宜60%以上，...OpenAIGPT-4o模型13.11 和 13.8 到底哪個大？超過一半 AI 大模型回答錯誤，強如 GPT-4O 也翻車了
這個話題主要是由《歌手2024》欄目引發的，孫楠與外國歌手的微小分數差異，引發了網友關于13.8%和13.11%誰大誰小的爭論。很多網友給出了自己認為13.11>13.8理由，看似合理，實則漏洞百出。這個小學四年級的知識點，一下子就成為了全民熱議的話題。很多網友還舉例AI給出的結果也是13.11大，一下子激起我的興趣，這么簡單的問題，AI竟然回答錯誤了。國內模型測試Kimichat：通義千問：騰訊元寶：文心一言：智譜清言：訊飛星火：商...AI大模型GPT-4OUnstructured專家分享RAG應用中文檔分塊（Chunking）的最佳實踐
近日，MariaKhalusova在Unstructured官方博客分享了有關分塊的最佳實踐。Unstructured成立于2022年9月，致力于解決自然語言處理（NLP）和大型語言模型（LLM）應用中的數據預處理問題。公司總部位于美國，專注于將非結構化數據轉化為LLM可以處理的格式，當下流行的pdf解析庫就來自于它們，它們在數據預處理方面擁有非常前沿的技術和經驗。分塊是文檔處理的一個步驟，當各種格式的文檔被解析變成文本文檔后，接下來就需要對文檔進...RAG應用中文chunking幾何視角下的大語言模型推理
一、結論寫在前面論文標題：ReasoninginLargeLanguageModels:AGeometricPerspective論文鏈接：??https:arxiv.orgpdf2407.02678??大語言模型在實際應用中的進步關鍵取決于其推理能力的提升。論文在此介紹了DNN和LLMs幾何學的一些方面，特別是展示了由MLP利用其分段線性公式引起的輸入空間劃分的重要性。DNN的適應性劃分在其逼近能力中起著巨大的作用。事實上，與傳統的樣條相比，MLP在其輸入空間中引起的區域是數據依賴的，...語言模型幾何萬字綜述：全面梳理 FP8 訓練和推理技術
精華一、背景隨著ChatGPT的橫空出世，LLMAIGC領域迎來空前的關注，各類大模型如雨后春筍般出現，科技公司對AI算力的需求也呈爆發式增長。在這樣的背景下，如何在有限資源內提升模型訓練和推理效率成為研究的熱點。而在眾多的方向中FP8逐漸成為研究熱點，FP8的應用落地也是一個極具潛力的方向。FP8的重要性日益凸顯，很大程度上得益于NVIDIAHopper架構和AdaLovelace架構對FP8的硬件支持。最新發布的Blackwell架構更是進一步拓展了低...FP8訓練技術SpreadsheetLLM：微軟對Excel編碼的“攤膀伏”
原創 精華1.SpreadsheetLLMExcel的特點是二維數據格式、靈活的布局和多樣化的格式選項。微軟最近引入了SpreadsheetLLM，開創了一種高效的編碼方法，用于釋放和優化LLMs在電子表格上的強大理解和推理能力。最初研究人員提出一種包含單元格地址、值和格式的普通序列化方法。但是這種方法受到LLMs上下文長度的約束，為此微軟推出了SheetCompressor（下圖綠色部分），它是一種創新的編碼框架，可以有效地壓縮電子表格。左邊為文檔輸入，經過S...微軟Excel編碼少或零樣本異常檢測最新研究跟蹤
少或零樣本異常檢測旨在給定少量幾張正常樣本或不給定任何樣本實現對未見類別的異常檢測。該方向的很多研究成果發表在最近一年內，主要得益于視覺語言模型（CLIP）的強大泛化能力。基于視覺語言模型的方法CVPR2023,WinCLIP該方法首次證實視覺語言的基礎模型在零樣本異常檢測任務上仍然保持強的泛化性。該方法首先為正常和異常分別設計了多個文本提示，將該提示表征對和圖像表征計算相似度然后以softmax歸一化獲得圖像級的異常得...視覺模型
