最后一天，DeepSeek開源了全生命周期數據訪問引擎FireFlyerFileSystem（3FS），以及基于3FS的數據處理框架Smallpond。3FS（螢火蟲文件系統）是一個充分利用現代SSD和RDMA網絡帶寬的并行文件系統，其特點是：在180節點集群中實現了6.6TiBs的總讀取吞吐量在25節點集群的GraySort基準測試中達到了3.66TiBmin的吞吐量每個客戶端節點的KVCache查詢峰值吞吐量超過40+GiBs采用分離式架構，確保了強一致性全面支持V3R1的訓練數據預處理...

剛剛，DeepSeek放出了開源第二彈——DeepEP！它擁有高效優化的alltoall通信，并具有以下特點：內部節點和節點間均支持NVLink和RDMA高吞吐量內核用于訓練和推理預填充低延遲推理解碼內核本地FP8調度支持可靈活控制的GPU資源，用于計算通信重疊具體來說，DeepEP是一個專為混合專家系統（MoE）和專家并行（EP）設計的通信庫。它提供高吞吐量和低延遲的GPU全互聯內核，也被稱為MoE的「調度」和「組合」操作。該庫還支持低精度運算，...

Replit「Agent」正以迅猛之勢，推動著編程行業的深刻變革。Masad于2016年創立了Replit，成立以來一直積極擁抱AI技術，近年來推出了一系列自動化編程產品。回顧Masad近年的言論，會發現「Agent」的實現速度遠超他之前的預期。他曾斷言「Agent」在2030年之前很難達成。促使這一轉變發生的關鍵因素，是Anthropic推出的新模型：Claude3.5Sonnet。此前，Replit一直專注于構建自有模型，期望憑借專有數據形成獨特優勢。然而，Claude3....

Anthropic終于要開始搞點事情啦！近期的「推理模型」熱潮中，Anthropic除了其CEO打了幾個嘴炮外，還沒有掏出一個拿得出手的產品。在這樣下去，可能要退出AI一線模型玩家行列了。Anthropic自己顯然不想看到這種情況發生。就在剛剛，有消息稱，Anthropic會在未來幾周內發布其全新的「混合AI」模型。Anthropic版「推理模型」，測試時計算完全掌控在OpenAI去年秋季發布其「推理模型」后，谷歌以及國內眾多AI公司紛紛推出了自己的模...

DeepSeek的估值，被曝已達1500億美元，達到了OpenAI的一半？最近，Bloomberg的這個數據，引起了軒然大波。圖片所有人都在問：真的假的？圖片此前，外媒福布斯也曾給出一個估值，當時的數字是10億美元。圖片短短幾天，估值卻已經漲到了150倍？外媒曝光，DeepSeek估值或高達1500億Bloomberg是這么說的。根據七位初創公司創始人和AI專家的說法，DeepSeek的市值大約在10億美元到超過1500億美元不等。根據彭博億萬富翁指數（Bloomber...

近年來，隨著文本屬性圖（TAG）在社交媒體、電子商務、推薦系統和學術引用網絡等領域的廣泛應用，研究人員對如何有效地從這些復雜數據結構中學習變得越來越感興趣。TAG不僅包含了節點之間的結構關系，還包含了節點本身的文本特征，因此如何同時處理這兩種信息成為研究中的一個核心問題。當前，圖神經網絡（GNN）在TAG學習中得到了廣泛的應用，然而其訓練過程通常需要大量的人工標注數據，這在實際應用中往往難以獲取。大語言模...

全球玩家鏖戰《黑神話·悟空》！已經有打通關的玩家了，我不羨慕，因為通關后的空虛寂寞馬上就會找上你們。開啟二周目、三周目的同時，網上已有人用AI讓這個神話永不落幕，打開某書就發現網友已經玩得不亦樂乎。讓我們的超級英雄去大戰西方異形怪物——甚至有人已經提前展望《黑神話》系列的下一部了，看出取景地是祖國大好河山的哪里了嗎？更有「慈母」網友讓其愛子直接穿越到《黑神話》里，一躍成精——這些都可以通過AI實現...

曾經在AI圖像生成領域無可匹敵的領導者Midjourney，終于聽勸了，上周五推出了網頁版圖像編輯器。新編輯器巧妙集成了重繪、縮放等核心功能。不僅提高了操作效率，而且使整體交互邏輯更加清晰，對于高頻使用Midjourney的用戶來說，絕對欣喜！今天，Midjourney宣布，將升級后的新工具向所有人免費開放試用。不論是產品更新，還是發放限時免費試用券，Midjourney似乎都傳遞出了一種緊迫感——新興的Flux1強勢崛起，表現異常出色；最...

最近，提升多模態大模型處理高分辨率圖像的能力越來越引起這個領域的關注。絕大多數方法致力于通過對圖像進行切分再融合的策略，來提升多模態大模型對圖像細節的理解能力。然而，由于對圖像的切分操作，不可避免會對目標、聯通區域帶來割裂，導致MLMMs對于微小或形狀不規則的目標的辨識能力。這個現象在文檔理解任務中，表現極為明顯，由于文字端經常被中斷。針對這一挑戰，華中科技大學和華南理工大學最近聯合發布一個多模態大...

??最近Flux的爆火，簡直把所有人的三觀都撼動了。??不懂就問：現在網上的東西，還有什么是真的？Flux震驚全網如今，開源文生圖模型Flux，儼然已經在全網掀起了一股風暴。下面這些合影，竟然全是AI生成的？簡直把這位博主震驚到懷疑人生。正面特寫大光圈，臉部打光、肌肉紋理、毛發，看不出絲毫破綻。注意，即使是背景板人物們，也很自然，挑不出太大毛病。鏡頭遠一點，光線暗一點呢？也很自然。兩個人物在光線明暗處的對比...

訓練一個擴散模型要多少錢？之前最便宜的方法（Wuerstchen）用了28400美元，而像StableDiffusion這樣的模型還要再貴一個數量級。大模型時代，一般人根本玩不起。想要各種文生小姐姐，還得靠廠商們負重前行為了降低這龐大的開銷，研究者們嘗試了各種方案。比如，原始的擴散模型從噪聲到圖像大約需要1000步，目前已經被減少到20步左右，甚至更少。當擴散模型中的基礎模塊逐漸由Unet（CNN）替換為DiT（Transformer）之后，一些根據...

過去的一周，OpenAI「草莓」項目被炒的熱火朝天，把所有人情緒推向了興奮最高點。在X上，爆料人iruletheworldmo每隔幾小時發一次帖，次次幾乎與「草莓」相關，甚至暗示這周二就是OpenAI實現第二級AGI的日子。他自稱已獲得內部消息，并表示全新的GPT4olarge模型將8月13日正式發布。OpenAI草莓項目真正露面還不知哪天，不過，勁敵PerplexityAI已展示了具備「草莓」能力的新模型。或者說，Q已經在PerplexityPro上實現了。今早，CEO...

昨天，AndrejKarpathy又發了長推，不過用了一句很有爭議的話開頭——「RLHF只是勉強的RL」。這條推特可謂「一石激起千層浪」，瞬間點燃了LLM社區的討論熱情。畢竟RLHF作為剛提出沒幾年的方法，又新穎又有爭議。一邊遭受質疑，一邊又在工業界和學界迅速流行。5G沖浪的LeCun也趕來聲援Karpathy，但他的話很短，只有一句——「RLHF不是真正的RL」。RLHF最早可以追溯到OpenAI安全團隊2017年發表的論文：論文地址：https:arxiv.orgab...

昨天奧特曼率眾人搞了一波「草莓暗示」的大陣仗，全網都在翹首以盼OpenAI的驚天大動作。結果今天大家等來的，只是一份安全報告而已……??今年5月，GPT4o演示一出，立馬技驚四座??。然而，它卻一鴿再鴿，等得用戶們心都涼了。GPT4o語音功能，為何遲遲不上線？剛剛OpenAI發布的這份紅隊報告，給我們揭開了謎底——不夠安全。在紅隊測試中，GPT4o的行為怪異，把OpenAI的研究者嚇了一大跳。明明是一男一女在對話，GPTo的男聲說...

7月26日，智譜發布AI生視頻產品「清影」，30秒將任意文圖生成視頻，并上線在他們的AI助手「智譜清言」上，被譽為是國內首個人人可用的Sora。就在發布6天后，「清影」生成到視頻數便已突破了百萬量級。今天，智譜AI宣布將與「清影」同源的視頻生成模型——CogVideoX正式開源。團隊表示，希望每一位開發者、每一家企業都能自由地開發屬于自己的視頻生成模型，從而推動整個行業的快速迭代與創新發展。打開AI助手「智譜清言」即可體...

號稱OpenAI二代機器人「Figure02」，真的來了！剛剛，FigureAI終于官宣了第二代人形機器人，完全換了一身新形象——黑色的外觀，更加靈活的五指。創始人BrettAdcock表示，「這是『地表最強』的人形機器人」！值得一提的是，Figure02的設計評審耗時18個月完成。據介紹，迭代后的Figure手部具有16個自由度，能夠承受與人類相當的力量。現在的它，已經進入寶馬車廠開始打工了，可以無休止地狂干20個小時。Figure02還可以與人類直接...

大語言模型都卷起來了，模型越做越大，token越來越多，輸出越來越長。那么問題來了，如何有效地評估大語言模型的長篇大論呢？要是輸出長度長了但胡言亂語輸出質量差，又臭又長，豈不是白搭首先能想到的方法就是人工評估。人工評估雖然對于評價模型性能至關重要，但受到主觀性、評估者之間的差異性以及廣泛評估的高成本的限制。考慮到這些因素，谷歌DeepMind研究團隊提出了自動評估解決方案FLAMe。論文地址：https:arxiv.orgabs2...

Midjourney幾個月前畫的餅終于端上來了！他們今天剛剛發布了最新版本v6.1！此次更新總結四個大字：細節狂魔。網友紛紛發推測試最新版本的Midjourney，攝影級畫面先睹為快！這張圖被取名為《天窗》，構圖、色彩、光影、明暗，各方面都極度舒適，湖面波光粼粼細節生動，簡直可以直接用來做屏保。繼續看一幅風景，曙光撥開云層，遠處群山連綿，積雪未消；植被茂密，松樹紋理逼真，一片靜謐祥和。接著看一組靜物，原本需要大量人力...

斯坦福炒蝦機器人作者，又出新作了。這次，機器人不是給我們炒飯了，而是給我們做外科手術！最近，約翰霍普金斯和斯坦福大學的研究者們，進行了一項新的探索——著名的醫療機器人達芬奇，是否可以通過模仿學習，來學習外科手術的操作任務呢？經過實驗后，他們成功了！組織操作、針頭處理和打結這三項基本的手術任務，達芬奇都可以自己獨立完成了。首先是需要醫學生苦練指法的縫合打結技術，只見達芬奇「飛針走線」，很熟練地就...

大數字一向吸引眼球。千億參數、萬卡集群，——還有各大廠商一直在卷的超長上下文。從一開始的幾K幾十K，發展到了如今的百萬token級別。Gemini的最新版本可以接收200萬個token作為上下文。這大概相當于140萬個單詞、2小時視頻或者22小時的音頻。但不知諸位平時用得著這么長的上下文嗎？畢竟100K已經相當于一部比較長的小說了。更重要的是，LLM真的能在這個長度上進行推理嗎？近日，有兩篇獨立研究分別表明：長上下文水分很大！L...