AI.x社區
- 登錄/注冊
超長小說可以用AI翻譯了，新型多智能體協作系統媲美人工翻譯
機器翻譯(MT)的最新進展顯著提高了各個領域的翻譯質量。然而，由于其復雜的語言、比喻表達和文化差異，文學文本的翻譯仍然是一個艱巨的挑戰。最近，一篇題為《(Perhaps)BeyondHumanTranslation:HarnessingMultiAgentCollaborationforTranslatingUltraLongLiteraryTexts》的論文，提出了一種用于文學翻譯的基于大型語言模型（LLM）的新型多智能體框架，并構建了一家名為TRANSAGENTS的虛擬出版公司（文學翻譯多智能體系統）。論文...機器翻譯AI單GPU訓練一天，Transformer在100位數字加法上就達能到99%準確率
自2017年被提出以來，Transformer已成為AI大模型的主流架構，一直穩站C位。但所有研究者都不得不承認的是，Transformer在算數任務中表現非常糟糕，尤其是加法，這一缺陷在很大程度上源于Transformer無法跟蹤大范圍數字中每個數字的確切位置。為了解決這個問題，來自馬里蘭大學、CMU等機構的研究者向這一問題發起了挑戰，他們通過在每個數字中添加一個嵌入來解決這個問題，該嵌入編碼數字相對于開頭的位置。該研究發現，只用一天...GPU訓練AI讀論文新神器：多欄密集文字、中英圖文混排文檔都能讀的多模態大模型Fox
雖然多模態大模型都能挑西瓜了，但理解復雜文檔方面還是差點意思。面對文字密集、多欄混排等文檔時往往力不從心，區域級別的細粒度理解，就更是無從談起了。最近，曠視團隊打造了一支多模態大模型的“點讀筆”——Fox，輕松實現對8頁文檔（中英混合，單欄多欄格式混合的極端場景）的交互式感知理解。對于信息密集的PDF文檔，Fox支持高可控性的細粒度理解，比如在用戶感興趣區域內進行文字識別、段落翻譯以及頁面內部的圖片內容...模型AIControlNet作者搞起大模型：讓天下沒有難寫的生圖提示詞，一句話變構圖小作文
精華ControlNet作者新項目，居然也搞起大模型和Agent了。當然還是和AI繪畫相關：解決大伙不會寫提示詞的痛點。現在只需一句超簡單的提示詞說明意圖，Agent就會自己開始“構圖”：afunnycartoonbatmanfightsjoker（一幅有趣的卡通蝙蝠俠與小丑戰斗的圖畫）這就是ControlNet作者LvminZhang的新玩具Omost。Omost這個名字有雙層含義：發音與英文單詞almost（幾乎）相似，意味著每次使用Omost后，用戶所需的圖像幾乎就完成了；“O”代表...模型提示詞谷歌DeepMind：GPT-4高階心智理論徹底擊敗人類！第6階推理諷刺暗示全懂了
GPT4的高階心智理論（ToM），已經正式超越人類！就在剛剛，谷歌DeepMind、約翰斯·霍普金斯大學和牛津大學等機構的學者發布的研究證實，GPT4在心智理論任務上的表現，已經完全達到了成年人類的水平。而且，它在第6階推理上的表現，更是大幅超過了人類！論文地址：?https:arxiv.orgpdf2405.18870??無獨有偶，此前Nature子刊《自然·人類行為》的一項研究也證實了，GPT4在心智理論上的表現已經位于人類水平之上，能夠比人類更...GPT-4谷歌老黃一口氣解密三代GPU！粉碎摩爾定律打造AI帝國，量產Blackwell解決ChatGPT全球耗電難題
精華就在剛剛，老黃手持Blackwell向全世界展示的那一刻，全場的觀眾沸騰了。它，是迄今為止世界最大的芯片！眼前的這塊產品，凝聚著數量驚人的技術如果用老黃的話說，它就是「全世界迄今為止制造出來的最復雜、性能最高的計算機。」8年內，1.8萬億參數GPT4的訓練能耗，直接瘋狂降到1350；而推理能耗則直接降到145000英偉達產品的迭代速度，已經徹底無視摩爾定律。就如網友所言，無所謂，老黃有自己的摩爾定律。一手硬件，一手CUDA，...ChatGPTAI深度學習領域的一些關鍵概念
1.神經網絡神經元：模擬人腦神經元，通過輸入、權重、偏置和激活函數計算輸出。激活函數：引入非線性特性，如ReLU提供正值輸出，Sigmoid提供0到1之間的輸出。前向傳播：輸入數據在網絡中層層傳遞，計算并得到最終輸出。反向傳播：通過計算損失函數梯度，優化網絡權重，提高模型性能。2.損失函數與優化損失函數：衡量模型預測與實際值差異，如均方誤差（MSE）計算預測值與真實值差的平方和。優化算法：如梯度下降，通過迭代調整...神經網絡編程模型深入剖析時序Prophet模型：工作原理與源碼解析
隨著得物業務的快速發展，積累了大量的時序數據，這些數據對精細化運營，提升效率、降低成本有著重要作用。在得物的時序數據挖掘場景中，時序預測Prophet模型使用頻繁，本文對Prophet的原理和源碼進行深入分析，歡迎閱讀和交流。一、引入時間序列是指按照時間先后順序收集或觀測的一系列數據點，這類數據通常都具有一定時間相關性，基于這種順序性，我們可以對時間序列進行多種數據挖掘任務，包括分類、聚類、異常檢測和預測等...Prophet模型源碼英特爾實驗室最新成果：LLaMA-NAS — — 大型語言模型的高效神經架構搜索
精華隨著模型規模的不斷擴大，其對計算資源的需求也水漲船高。高昂的內存和計算成本不僅限制了LLMs在高性能計算平臺之外的應用，也增加了研究和開發的門檻，這對于資源有限的研究機構和企業尤其成問題。在這樣的背景下，減小LLMs的大小和計算復雜度顯得尤為重要。這可以使LLMs在更廣泛的硬件平臺上得到應用，包括那些價格更便宜、更易獲得的設備，從而推動AI技術的普及和應用。優化模型的計算效率對于環境的可持續性也至關重要，因...LLaMA語言模型好消息：GPTs 可以免費使用了！壞消息：只能使用，無法創建！
今天OpenAI又向所有用戶正式開放GPTs使用，免費用戶也可以白嫖GPTs了。但是跟GPT4o一樣會受到限制，目前我的免費賬號還沒被灰度，無法測試限制次數是多少。白嫖GPT4o大家應該都享受到了，我的免費賬號晚上測試了一下感覺GPT4o次數限制還是挺寬松的。每三小時可以發送大約50條消息，對于大部分用戶來說肯定夠用了。免費的GPT4o支持以下操作：體驗GPT4的智能水平（據傳免費的4o是閹割版）分析上傳的文件內容，并支持將數據制作成...GPTsGPT-4o版本MIT最新力作：用GPT-3.5解決時間序列異常檢測問題
精華今天給大家介紹一篇MIT上周發表的文章，使用GPT3.5turbo解決時間序列異常檢測問題，初步驗證了LLM在時間序列異常檢測中的有效性。整個過程沒有進行finetune，直接使用GPT3.5turbo進行異常檢測，文中的核心是如何將時間序列轉換成GPT3.5turbo可識別的輸入，以及如何設計prompt或者pipeline讓LLM解決異常檢測任務。下面給大家詳細介紹一下這篇工作。論文標題：Largelanguagemodelscanbezeroshotanomalydetectorsfortimeseries下載...GPT-3.5時間序列檢測OpenAI動蕩之際，普華永道成為其ChatGPT的最大客戶！
變動與安全團隊的爭議先說說OpenAI的新動作吧，他們最近搞了個新安全委員會，專門負責監督公司的“關鍵”安全決策。不過，這個委員會全是公司內部人，包括CEOSamAltman等高層。這就好比你讓狼來管理羊圈，能有多少獨立性和透明度還真是個問題。大家都知道，讓自己人來監督自己，這種操作怎么看怎么不靠譜。而且，這陣子OpenAI的安全技術團隊可是人才流失的速度可以和他們程序猿脫發的速度相提并論。先是治理團隊成員DanielKokot...OpenAIChatGPTCEOHippoRAG：協同LLM、KG與PPR的新型開源檢索框架，R@5比RAPTOR提高28%
大型語言模型（LLMs）在預訓練后仍難以有效整合大量新經驗，當前使用的檢索增強生成（RAG）方法無法幫助LLMs跨段落整合新知識。人類大腦通過海馬體的索引結構來實現關聯記憶能力，這是當前RAG系統所缺乏的。知識整合與RAG。需要知識整合的任務對于當前的RAG系統來說特別具有挑戰性。在上述例子中，從描述可能成千上萬的斯坦福教授和阿爾茨海默癥研究人員的段落中找到一位從事阿爾茨海默癥研究的斯坦福教授。由于當前方法孤立地...HippoRAGLLM框架清華天眸芯登Nature封面！世界首個類腦互補視覺芯片問世，或開辟AGI新路
就在剛剛，清華團隊發布世界首款類腦互補視覺芯片——「天眸芯」。這是一種基于視覺原語的互補雙通路類腦視覺感知新范式，標志著我國在類腦計算和類腦感知兩個重要方向，取得的重大突破！研究《面向開放世界感知具有互補通路的視覺芯片》（AVisionChipwithComplementaryPathwaysforOpenworldSensing）一經發布，即登上Nature封面。團隊由清華大學施路平教授領銜，依托清華精密儀器系的類腦計算研究中心。論文地址：?https:www....芯片AI用硅模擬人腦，進度條走到了1/80
貓頭鷹的大腦約有11.5億個神經元、1280億個突觸。全部塞進一個微波爐大小的機箱——就成了世界上最大的神經擬態系統，英特爾HalaPoint。不過別擔心，期間沒有任何貓頭鷹受到傷害，是用的硅芯片模擬生物神經元。這種芯片效果如何？一系列數據說話：執行AI推理負載和處理優化問題時，速度比常規CPU和GPU架構快50倍，同時能耗降低了100倍。運行傳統深度神經網絡時，INT8精度運算的能效比達到了15TOPSW。（英偉達尚未發貨的最新GB20...AI芯片32專家MoE大模型免費商用！性能全面對標Llama3，單token推理消耗僅5.28%
每個token只需要5.28%的算力，精度就能全面對標Llama3。開源大模型，再添一位重量級選手——來自浪潮信息的32專家MoE模型，源2.0M32。不僅擁有極高的回報投入比，而且全面開放，訓練代碼和模型權重都可任意下載，商業使用也免費、無需授權。那么，這到底是怎樣的一款模型？119算力消耗，性能對標Llama3首先了解一下模型的基本信息，源2.0M32模型采用MoE架構，專家數量為32，總參數量40B，激活專家數為2，激活參數量3.7B。精度上...模型開源編輯任何場景! 3DitScene：通過語言引導的解耦 Gaussian Splatting開源來襲！
精華文章：https:arxiv.orgpdf2405.18424項目：https:zqh0253.github.io3DitSceneHuggingFace:https:huggingface.cospacesqihang3DitScene場景圖像編輯在娛樂、攝影和廣告設計中至關重要。現有方法僅專注于2D個體對象或3D全局場景編輯，導致缺乏一種在3D層面上以不同粒度有效控制和操作場景的統一方法。本研究提出了3DitScene，這是一種新穎且統一的場景編輯框架，利用語言引導的解耦GaussianSplatting實現從2D到3D的無縫編輯，允許...圖像編輯3DMiniCache 和 PyramidInfer 等 6 種優化 LLM KV Cache 的最新工作
一、背景在LLM推理中，常常會采用KVCache來緩存之前Token的中間結果，以顯著減少重復計算，從而降低自回歸生成中的延遲。然而，KVCache的大小與序列長度成正比，在處理長序列時會面臨極大的挑戰。尤其當前許多模型開始支持幾百K甚至幾M的序列長度，進一步凸顯了KVCache的問題，因此很多研究工作致力于降低KVCache的占用。本文中簡單介紹幾個最新的工作，包括SnapKV、YOCO、CLA、LayerCondensedKVCache、MiniCache以及PyramidInf...MiniCacheLLMSnapKV用GPT-3.5生成數據集！北大天工等團隊圖像編輯新SOTA，可精準模擬物理世界場景
高質量圖像編輯的方法有很多，但都很難準確表達出真實的物理世界。那么，EdittheWorld試試。來自北京大學、TiamatAI、天工AI、Mila實驗室提出了EditWorld，他們引入了一種新的編輯任務，即世界指令（worldinstructed）圖像編輯，它定義和分類基于各種世界場景的指令。在一組預訓練模型，比如GPT3.5、VideoLLava和SDXL的支持下，建立了一個帶有世界指令的多模態數據集。在該數據集訓練了一個基于擴散的圖像編輯模型EditWorld，結...圖像編輯數據AlphaFold 3不開源，統一生物語言大模型阿里云先開了！
把169861個生物物種數據裝進大模型，大模型竟get到了生物中心法則的奧秘——不僅能識別DNA、RNA與相應蛋白質之間的內在聯系，在基因分類、蛋白質相互作用預測、熱穩定性預測等7種不同類型任務中也能比肩SOTA模型。模型名為LucaOne，由阿里云飛天實驗室生物智能計算團隊打造。相比AlphaFold3因未開源遭到650多名學者聯名批評，LucaOne訓練推理代碼及相關數據目前均已開源。LucaOne是目前首個全生物系統的核酸語言+蛋白語言的融合...模型開源
