AI.x社區
- 登錄/注冊
AGI時代下，計算機專業出身的該何去何從？
原創Easy：單獨開個貼說一下吧。提前說明，一切以古代思維對AGI時代的推演，都是可笑的。只是在其未落地時，尚能有一點參考價值。以下都是個人分析，如有和你認知不同的地方，以你的認知為準[doge]。我覺得計算機這個專業以及程序員這個行業，在AI加持以后，會飛速分化。最優秀的人才，會分布到人工智能核心、平臺和公用組件庫等基礎業務上。但這些崗位是非常有限的。不那么優秀的初中層人才，尤其是CURD工程師，則會有非常高的概率...AGIAI程序員計算機專業前端AI預測極端天氣提速5000倍！微軟發布Aurora，借AI之眼預測全球風暴
精華自人類有歷史以來，就一直執著于預測天氣，以各種方式破解「天空之語」，我們慢慢發現，草木、云層似乎都與天氣有關，這不僅僅是因為人類從事生產的需要，也是人類想要對著大風歌唱、在月光下吟詩的需要?！侗c火之歌》中的風雨歌師，就是通過歌聲和吟唱來預測天氣和風暴，人們還會幻想擁有「改變天氣」的超能力。天氣之子后來，有了氣象專家和天氣預報，可我們始終還是不能脫離具身體驗和物理世界，但現在，AI讓情況起了變化...天氣預測AI多模態模型學會打撲克：表現超越GPT-4v，全新強化學習框架是關鍵
只用強化學習來微調，無需人類反饋，就能讓多模態大模型學會做決策！這種方法得到的模型，已經學會了看圖玩撲克、算“12點”等任務，表現甚至超越了GPT4v。這是來自UC伯克利等高校最新提出的微調方法，研究陣容也是相當豪華：圖靈獎三巨頭之一、Meta首席AI科學家、紐約大學教授LeCunUC伯克利大牛、ALOHA團隊成員SergryLevineResNeXt一作、Sora基礎技術DiT作者謝賽寧香港大學數據科學學院院長、UC伯克利教授馬毅該方法名為RL4VLM...模型學習框架Ilya離開后，八位OpenAI新安全與保密委員會領軍人物，你認識幾位？
原創編輯言征出品51CTO技術棧（微信號：blog51cto）OpenAI宣布成立新的安全與保密委員會，該委員會負責OpenAI項目和運營中的關鍵決策制定，這引發了互聯網的廣泛討論，因為CEO山姆·阿爾特曼（SamAltman）也是委員會成員之一。討論圍繞著GPT5可能提前發布的問題展開，以及該委員會是OpenAI的安全堡壘。然而，這一公告最有趣的部分似乎是委員會的成員。除了由OpenAI董事會董事領導外，該小組還將有技術和政策專家為他們提供指導。在...OpenAI保密委員會CEO被作者刪庫的Llama 3-V原文再現！效果匹敵GPT4-V，區區不到500 美元，如何做到的
原創編譯言征作者AkshGarg備注：發稿前作者已經刪掉原文出品51CTO技術棧（微信號：blog51cto）近日，一款Llama3V最近被“先紅后黑”的出了圈。作為全球頂尖研究學府的團隊，身陷“抄襲”中國大模型的泥潭后，火速刪稿刪庫，實屬LLM史上一大“軼事”。那么這款“Llama3V”究竟長什么樣子，實際基準效果究竟如何？不得不說，看完作者對于該模型的介紹，大家對于如何訓練出堪比GPT4o的多模態大模型，心中會多一些干貨。【本篇文章的作...Llama 3-VChatGPTGPT4-V單個4090可推理，2000億稀疏大模型「天工MoE」開源
在大模型浪潮中，訓練和部署最先進的密集LLM在計算需求和相關成本上帶來了巨大挑戰，尤其是在數百億或數千億參數的規模上。為了應對這些挑戰，稀疏模型，如專家混合模型（MoE），已經變得越來越重要。這些模型通過將計算分配給各種專門的子模型或「專家」，提供了一種經濟上更可行的替代方案，有可能以極低的資源需求達到甚至超過密集型模型的性能。6月3日，開源大模型領域又傳來重要消息：昆侖萬維宣布開源2千億稀疏大模型Skyw...模型開源再戰Transformer！原作者帶隊的Mamba 2來了，新架構訓練效率大幅提升
自2017年被提出以來，Transformer已經成為AI大模型的主流架構，一直穩居語言建模方面C位。但隨著模型規模的擴展和需要處理的序列不斷變長，Transformer的局限性也逐漸凸顯。一個很明顯的缺陷是：Transformer模型中自注意力機制的計算量會隨著上下文長度的增加呈平方級增長。幾個月前，Mamba的出現打破了這一局面，它可以隨上下文長度的增加實現線性擴展。隨著Mamba的發布，這些狀態空間模型(SSM)在中小型規模上已經實現了與Tran...架構訓練麥肯錫：ChatGPT等生成式AI應用激增，大中華區增長最快
全球頂級咨詢公司麥肯錫（McKinsey&Company）在官網發布了《hestateofAIinearly2024:GenAIadoptionspikesandstartstogeneratevalue》，一份關于生成式AI應用的調查報告。麥肯錫對多個國家地區的1,363位管理者進行了調查，以查看他們對ChatGPT、Copilot、Gemini和Midjourney等生成式AI的應用情況。結果顯示，65%的受調查者已經在實際業務中使用該技術，與2023年的33%相比幾乎增長了兩倍；應用地區方面，大中華區（中國臺灣、香港...生成式AI應用Adobe推出超分辨率，細節豐富視頻模型VideoGigaGAN
視頻超分辨率是計算機視覺領域一個非常有難度的課題，主要是將低分辨率的視頻轉換為高分辨率。在轉換的過程中，會面臨著兩大難題。第一個是保持輸出視頻幀在時間上的連貫性，確保幀到幀之間平滑過渡，不出現閃爍或抖動的情況；第二個則是要在放大的視頻幀中重建高頻細節，以提供清晰和逼真的紋理效果。雖然目前很多超分辨率視頻模型在保持時間連貫性方面取得了顯著進展，但是以犧牲圖像清晰度為代價，整體看起來非常模糊缺乏更...模型神經網絡不同數據集有不同的Scaling law？而你可用一個壓縮算法來預測它
一般而言，訓練神經網絡耗費的計算量越大，其性能就越好。在擴大計算規模時，必須要做個決定：是增多模型參數量還是提升數據集大小——必須在固定的計算預算下權衡此兩項因素。Scalinglaw告訴我們：只要能適當地分配參數和數據，就能在固定計算預算下實現性能最大化。之前已有不少研究探索過神經語言模型的Scalinglaw，而這些研究通常得出的結論是參數和訓練token數應當一比一地擴展。但是，之前的語言模型Scalinglaw研究都是基...數據壓縮算法物理傳熱啟發的視覺表征模型vHeat來了，嘗試突破注意力機制，兼具低復雜度、全局感受野
本文作者為VMamba的原班人馬，其中第一作者王兆植是中國科學院大學和鵬城實驗室的2022級聯合培養博士生，共同一作劉悅是中國科學院大學2021級直博生。他們的主要研究方向是視覺模型設計和自監督學習。如何突破Transformer的Attention機制？中國科學院大學與鵬城國家實驗室提出基于熱傳導的視覺表征模型vHeat。將圖片特征塊視為熱源，并通過預測熱傳導率、以物理學熱傳導原理提取圖像特征。相比于基于Attention機制的視覺模型，v...物理模型揭秘Sam Altman的投資帝國，談談AI大佬鮮為人知的一面
在硅谷，山姆·奧特曼無疑是一個不可忽視的存在。然而，他的財富來源并不僅僅依賴于他在OpenAI的工作。事實上，奧特曼真正的致富之路更像是一本充滿風險和機遇的投資教科書。作為OpenAI的首席執行官，奧特曼的年薪僅為65,000美元，而且他選擇不在這家估值高達860億美元的人工智能公司中持有任何股份。這種選擇雖然看似高尚，避免財富對人工智能安全發展的腐蝕，但實際上他的主要財富并非來自OpenAI的薪水或股份。在非公開的另一...AI網絡OpenAIDocReLM：自建數據集訓練檢索模型和重排序模型提高 RAG 效果
背景根據Crossref的數據，目前學術界已經積累了1.4篇文獻，每年還以幾百萬的速度增加。這種驚人的增長速度，讓研究人員跟蹤業內動態變得越來越困難。因此，大家對高效的語義檢索系統需求越來越強烈。這類系統的開發面臨非常多的困難：?首先，學術論文使用高度專業化的語言，需要深刻理解上下文才能提取關鍵信息。?其次，理解一篇論文不僅要閱讀其內容，還要理解引用及其相互關系，這要求系統能夠把握論文內引用間的聯系。?最...RAG模型數據集ChatGPT-4o有何特別之處?
大家已經知道，OpenAI在GPT4發布一年多后終于推出了一個新模型。它仍然是GPT4的一個變體，但具有前所未見的多模態功能。有趣的是，它包括實時視頻處理等強大功能，這一關鍵功能最終可以讓我們創建強大的虛擬助手，實時支持我們的日常生活。然而，這樣的功能應該很昂貴且緩慢，考慮到該模型速度極快且免費使用(有限免費)，這不合情理。那么，到底發生了什么事呢？OpenAI一定已經意識到了一些我們尚未意識到的事情，即我們今天討...ChatGPT-4oJSONLLMGPT Researcher：破解復雜研究的AI利器
原創在現代研究環境中，處理如詳盡研究工作或學術論文撰寫等復雜任務對當前的大型語言模型(如ChatGPT)來說是一個挑戰。這些任務通常需要長時間的手動干預和多步驟操作，現有的AI工具往往無法在沒有人類幫助的情況下完成這些復雜任務。GPTResearcher受到PlanandSolve方法的啟發，提供了解決這一問題的方法。通過將復雜任務拆解為更小的子任務并并行執行，GPTResearcher提高了研究的效率和準確性。它利用大模型從多個在線資源中抓取和...大語言模型LLMChatGPT大模型“分區”部署在云和邊緣更合適？
原創 精華作者DavidLinthicum出品51CTO技術棧（微信號：blog51cto）眾所周知，大型語言模型（LLMs）需要大量的計算資源。這意味著開發和部署主要集中在強大的集中式系統上，如公共云提供商。然而，盡管許多人認為我們需要大量的GPU和龐大的存儲空間來運行生成式AI，但實際上，存在使用分層或分區架構為特定業務用例創造價值的方法。不知怎的，有一種聲音認為，在生成式AI的時代背景下，邊緣計算似乎行不通。這是因為生成式AI模型的處理要...模型邊緣LLM騰訊元寶全面測評！國產AI“看劇”時代開啟！讀懂《慶余年》范閑，揭秘奧特曼宮斗！
原創編輯伊風出品51CTO技術棧（微信號：blog51cto）騰訊在大模型上的動作姍姍來遲。對于“后發”的抉擇，騰訊想得很清楚。在“騰訊元寶”上線的發布會上，騰訊云副總裁、騰訊混元大模型負責人劉煜宏說，“雖然行業內看起來火熱，但是中國移動互聯網用戶規模12.32億，國內AI頭部產品日活躍用戶規模僅數百萬。這意味著AI產品的滲透率極低，不到1%。”圖片在這種情景之下，盡管大家的FOMO（害怕錯過）情緒很重，但先發不見得必然獲取到...國產AI騰訊高效、可泛化的高斯重建框架，只需3張視圖即可快速推理，45秒便可完成優化
3D重建和新視圖合成技術在虛擬現實和增強現實等領域有著廣泛的應用。NeRF通過隱式地將場景編碼為輻射場，在視圖合成上取得了顯著的成功。然而，由于NeRF依賴于耗時的逐場景優化，極大地限制了其實用性。為了解決這一問題，出現了一些可泛化的NeRF方法，旨在通過網絡前饋的方式從多視圖中重建場景。然而，由于基于NeRF的方法需要在射線上查詢密集的點進行渲染，因此速度受到了限制。最近，3DGaussianSplatting（3DGS）采用了各向...視圖優化多模態大模型不夠靈活，谷歌DeepMind創新架構Zipper：分開訓練再「壓縮」
最近的一系列研究表明，純解碼器生成模型可以通過訓練利用下一個token預測生成有用的表征，從而成功地生成多種模態（如音頻、圖像或狀態動作序列）的新序列，從文本、蛋白質、音頻到圖像，甚至是狀態序列。能夠同時生成多種模態輸出的多模態模型一般是通過某種形式的詞匯擴展（將多模態表征轉換為離散token并添加到模型的基本詞匯表中）來實現的，即在預訓練階段或在后期微調階段進行跨模態對齊。多模態預訓練方法具有很強的性...谷歌架構CVPR 2024 | 合成視頻數據集里只有單人數據？M3Act破解人群行為標注難題
精華論文鏈接：https:arxiv.orgabs2306.16772項目鏈接：https:cjerry1243.github.ioM3Act論文標題：M3Act:LearningfromSyntheticHumanGroupActivities引言通過視覺信息識別、理解人群的行為是視頻監測、交互機器人、自動駕駛等領域的關鍵技術之一，但獲取大規模的人群行為標注數據成為了相關研究的發展瓶頸。如今，合成數據集正成為一種新興的，用于替代現實世界數據的方法，但已有研究中的合成數據集主要聚焦于人體姿態與形狀的估...合成視頻數據
