AI.x社區
- 登錄/注冊
谷歌放大招開源SynthID Text，火眼金睛鑒別AI，還能為AI生成的多媒體內容添加隱形水印！
原創出品51CTO技術棧（微信號：blog51cto）谷歌正在推出其SynthIDText技術，讓開發者能夠對生成式AI模型生成的文本進行水印token和檢測，并且該技術現在已經全面開放。圖片SynthIDText可以通過AI平臺HuggingFace和谷歌更新后的負責任生成式AI工具包下載。??https:huggingface.cospacesgooglesynthidtext??谷歌的這項成果已經被nature接收了！在這篇論文中，谷歌詳細揭秘了水印的工作原理。圖片??https:www.nature.comarticles...AI隱形水印多媒體大模型思維鏈升級之DoT框架
原創本文介紹LLM大模型中其中一種思維鏈DoT。盡管傳統的思維鏈方法使大型語言模型能夠進行“思考”，例如思維樹和思維圖方法通過引入分叉結構來探索多種推理路徑。然而，這些方法通常需要額外的控制機制或依賴多個模型的協同工作，這無疑增加了實現和部署的難度。清華大學的研究團隊最近提出了一個新的思維鏈框架思維圖（DiagramofThought，DoT），號稱是能夠超越線性思維的突破。感興趣的小伙伴可以看看原文：??https:arxiv.orgp...大模型面試干貨從AIGC來看大模型技術的發展和現狀
原創“能使用和會使用大模型并不是一回事”AIGC——人工智能生成內容，可以說是大模型技術的看家本領了，以openAI發布的影響全世界的chatGPT來說就屬于一個AIGC應用，只不過其主要偏向于語言處理，也就是大模型技術與自然語言領域相結合的結果。但從AIGC應用的產品來看，不論是基于大模型開發的AIGC產品，還是做AIGC的大模型服務商，AIGC生成的效果可以說是天差地別。AIGC發展與現狀AIGC技術經過這兩年的發展取得了不錯的進展，chat...AIGC大模型?顏水成團隊新作:AI手機迎來重大技術進展！Meissonic:讓移動成像技術飛躍
文章鏈接：https:arxiv.orgpdf2410.08261模型鏈接：https:huggingface.coMeissonFlowMeissonic在線Demo鏈接：https:huggingface.cospacesMeissonFlowmeissonic亮點直擊：增強型Transformer架構：通過結合多模態和單模態Transformer層，提升了MIM模型的訓練效率和性能，特別是在跨模態信息處理和視覺表示的細化方面，取得了顯著提升。高級位置編碼與動態掩碼率：采用RotaryPositionEmbeddings（RoPE）解決高分辨率下的上下文解耦...圖像生成AI首篇！全面解讀高效Segment Anything模型變體：各種圖像分割加速策略和核心技術展示
精華文章鏈接：https:arxiv.orgpdf2410.04960亮點直擊提供了一項系統的高效SAM變體全面回顧，旨在加速分割任務。介紹了一個結構良好的分類法，將這些方法根據其采用的加速策略進行分類。據我們所知，這是第一項專門關注該領域的調查。對這些變體的效率和準確性進行了全面的評估和比較，旨在幫助研究人員選擇最能滿足其性能和應用需求的模型。提出了幾個未來研究的潛在方向，為讀者提供啟發，以推動該領域的持續發展。?SegmentAnyth...AI模型多模態大模型：基礎架構
原創大模型技術論文不斷，每個月總會新增上千篇。本專欄精選論文重點解讀，主題還是圍繞著行業實踐和工程量產。若在某個環節出現卡點，可以回到大模型必備腔調或者LLM背后的基礎模型重新閱讀。而最新科技（Mamba,xLSTM,KAN）則提供了大模型領域最新技術跟蹤。若對于具身智能感興趣的請移步具身智能專欄。技術宅麻煩死磕AI架構設計。當然最重要的是訂閱“魯班模錘”。多模態大型語言模型（MLLM）是人工智能領域的前沿創新，它結合了...多模態大模型架構GLM4模型開源，意料之中的尺寸，意料之外的效果
寫在前面今天智譜開了GLM49B的模型，不是6B，是9B。一共開源了四個模型，Base版本模型（GLM49B）、Chat版本模型（GLM49BChat和GLM49BChat1M）和多模態模型（GLM4V9BChat）。其中，模型為多語言模型除了支持中文、英文之外，還支持日語，韓語，德語在內的26種語言；Chat系列模型支持網頁瀏覽、代碼執行、自定義工具調用（FunctionCall）的能力；GLM4V9B模型支持中英雙語多輪對話能力。Github:https:github.comTHUDMGLM4HF:https:...GLM4模型開源一文匯總：推薦系統中多任務學習的優化思路
?多任務學習是推薦系統中非常常見的一個問題。推薦系統中，經常要對多個目標進行預測，比如點擊率、轉化率、觀看時長等等。將這些任務聯合學習，希望通過不同的監督信息，互相增強各自目標的擬合能力。但是同時，不同目標之間又不一定是正向關系，可能存在負向遷移問題，存在蹺蹺板現象。因此，如何最好的發揮多任務學習的作用，達到各個任務聯合最優，一直是一個推薦系統領域的核心研究問題。這篇文章就給大家匯總一下，推薦...推薦系統優化RAGChecker:顯著超越RAGAS，一個精細化評估和診斷 RAG 系統的創新框架
精華RAG應用已經是當下利用大模型能力的典型應用代表，也獲得了極大的推廣，各種提升RAG性能的技術層出不窮。然而,如何全面、準確地評估RAG系統一直是一個挑戰。傳統評估方法存在諸多局限性:無法有效評估長文本回復、難以區分檢索和生成模塊的錯誤來源、與人類判斷的相關性不高。為此,亞馬遜和上海交通大學等研究團隊開發了RAGChecker[1],這是一個專為RAG系統設計的創新評估框架。圖片RAGChecker的核心亮點在于其細粒度的評估方法。...RAGASRAG系統KVSharer：基于不相似性實現跨層 KV Cache 共享
一、背景本文中我們介紹一種最新的KVCache共享論文KVSharer，與之前常見的層內共享不同，KVSharer主要關注跨層共享，并且是整個層的共享。對應的論文：[2410.18517]KVSharer:EfficientInferenceviaLayerWiseDissimilarKVCacheSharing對應的代碼庫：????https:github.comyangyifei729KVSharertreemain??二、摘要LLM推理過程中對GPU內存的需求不斷增加，而其中Attention的KVCache占據了超過80%的空間。當前，大多數現有的KV...KVSharerKVCache327個樣本打破常規，這個"OpenAI o1復制之旅"有點燃 | RAG系統迎來重大突破！
1、327個樣本打破常規，這個"OpenAIo1復制之旅"有點燃人工智能領域最近又掀起一陣波瀾——OpenAI發布了令人矚目的O1模型。然而，這個模型的具體細節卻如同蒙著面紗一般神秘。面對這種情況，一群研究者決定開啟了一場別開生面的"O1復制之旅"，試圖揭開這層面紗。最引人注目的是，研究團隊提出了一個創新的"journeylearning（旅程學習）"范式。與傳統的"死記硬背"式學習不同，這種方法讓模型不僅要學會解決問題，還要學習整個探索...OpenAI模型系統多模態RAG應用開發實戰演練
原創本文將介紹如何基于高級解析、語義和關鍵字搜索以及重排序技術開發支持上下文檢索的多模態RAG應用系統。引言當下，所有大型語言模型（LLM）都存在一個知識截止日期的問題，即它們無法回答針對其知識庫中不存在的特定數據的查詢。例如，LLM無法回答有關公司去年會議紀要數據的查詢。另一方面，LLM還容易產生幻覺，并提供看似合理的錯誤答案。為了克服這個問題，檢索增強生成（RAG）解決方案越來越受歡迎。RAG的主要思想是將外部...大型語言模型LLM多模態RAG應用清華大學提出1-Bit FQT：將全量化訓練極限推到極致,訓練速度提升5倍！
在深度神經網絡的訓練過程中，全量化訓練（FullyQuantizedTraining,FQT）通過將激活值、權重和梯度量化到較低的精度，顯著加速了訓練過程。隨著對訓練數值精度的不斷壓縮，一個自然而然的問題浮現出來：全量化訓練的極限是什么？即，能夠實現的最低位寬是多少？理想情況下，如果能將位寬壓縮到1位，訓練將可以通過二進制操作實現，這不僅能極大簡化硬件設計，還可能在保持訓練質量的前提下，實現極致的計算效率。本文首次嘗試將...全量化訓練極限怎么用AI實現商業變現？文心智能體帶你探索AI “新”商業賺錢玩法
在這個智能體技術飛速發展的時代，我們正站在一個全新的商業風口，智能體的商業變現不再只是一個概念，而是每個智能體發展的關鍵階段。為了迎接這一挑戰，文心智能體平臺推出“商領計劃”，致力于打造一個“可流通、可變現、可盈利”的智能體應用生態，幫助大家通過智能體實現盈利。活動時間內，參與“商領計劃”即可獲得由51CTOAI.x社區提供的精美獎品！活動時間10月29日–12月10日智能體商業化應用方向商品種草轉化、企業服務...文心智能體商領計劃商業變現AIKAG開源了，知識增強掀翻RAG，性能翻倍
KAG（KnowledgeAugmentedGeneration）框架早在9月份就已經發布，近期終于開源了，它的核心在于提出了：一種LLM友好的知識表示方法知識圖譜與原始文本塊之間的相互索引邏輯形式引導的混合推理引擎以及基于語義推理的知識對齊歸功于在構建更有效的索引、知識對齊和混合解決庫方面的創新，KAG框架在多跳問答任務中相比于現有的RAG方法有顯著的性能提升，2wiki、MuSiQue數據集上的EM指標直接翻倍。此外，KAG框架在螞蟻集團的電子政...KAG開源RAG圖像編輯多任務一網打盡！PromptFix，新型擴散模型&大規模視覺指令數據集（羅切斯特大學&微軟）
文章鏈接：https:arxiv.orgpdf2405.16785項目鏈接：https:www.yongshengyu.comPromptFixPage亮點直擊提出了一個為七個圖像處理任務量身定制的綜合數據集。該數據集包含約101萬對多樣化的輸入輸出圖像及其相應的圖像編輯指令。提出了一種全新的指令引導擴散模型——PromptFix，用于低級圖像處理任務。大量實驗結果表明，PromptFix在各種圖像處理任務中表現優于現有方法，并在零樣本盲修復和組合任務中展現出更強的能力。為擴散模...AI圖像生成谷歌與學術界聯手，研究突破多智能體合作瓶頸的新算法
在人類的合作中，我們可能會遇到囚徒困境（SocialDilemmas）、悲劇的共有（TragedyoftheCommons）、公平分配問題（PublicGoodsGame）、獵人與收集者困境（StagHuntGame）、和合作網絡（NetworkedCooperation）等諸多社會性合作困境，比如兩個人必須決定是否與對方合作（相互協力）或是背叛（選擇個人利益）。合作可以帶來最大的集體收益，但個體背叛可能會導致更高的個人收益。這種情況下，我們需要在短期的個人利益和長期的集...谷歌學術界多智能靈活精確可控編輯！Dice:首個離散擴散模型精確反演方法！
文章鏈接：https:arxiv.orgpdf2410.08207項目鏈接：https:hexiaoxiaocs.github.ioDICE亮點直擊引入了DICE，一種用于離散擴散模型（包括多項擴散和mask生成模型）的反演算法。通過記錄并注入噪聲序列或mask模式，DICE能夠在無需預定義mask或注意力操作的情況下，實現對離散數據的精確重構和可控編輯。通過在圖像和文本兩種模態上的全面實驗驗證了DICE的有效性，展示了其在不同類型的離散生成模型中的通用性。證明了該方法可以將...模型算法昨天，國產大模型接管了人類的手機、電腦！
原創整理｜言征國產多模態、智能體版本的GPT4o終于來了！10月25日，國內大模型獨角獸智譜連發兩個大招，小編當時差點愣住，不愧國產大模型之光！廢話不多說，直接上干貨。這次智譜推出了一個模型GLM4Voice，一款應用AutoGLM。圖片開源地址：https:github.comTHUDMGLM4VoiceGLM4Voice是智譜AI推出的端到端語音模型。GLM4Voice能夠直接理解和生成中英文語音，進行實時語音對話，并且能夠遵循用戶的指令要求改變語音的情感、語調、語速...國產大模型手機黃仁勛和印度首富安巴尼對話：CPU摩爾定律已停滯，發現第二個縮放定律，不外包數據做AI
原創10月24號，英偉達創始人兼CEO黃仁勛現身印度孟買。在印度舉辦的NVidiaAISummit2024峰會上，黃教主一如既往的小跑登臺，開場就是一聲中氣十足“hello，孟買”，不過很快他就發現自己高興地甚至忘記了拿遙控筆，并解釋道：這是我第一次遇到這種狀況，不過小編看來，有可能是黃仁勛當天僅僅休息了3個半小時的原因。當然這些只是小插曲，因為接下來老黃的演講內容以及與印度首富信實工業集團董事長穆克什·安巴尼之間的對話，更加讓...英偉達AI黃仁勛
