成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

LeCun被痛批:你把Meta搞砸了!燒掉千億算力,自曝折騰20年徹底失敗

人工智能 新聞
「一位頂尖科學家,有數千億美元的資源,卻仍然能把Meta搞砸了!」最近,圈內對LeCun 的埋怨和批評,似乎越來越壓不住了。有人批評說,Meta之所以潰敗,LeCun的教條主義就是罪魁禍首。但LeCun卻表示,自己嘗試了20年自回歸預測,徹底失敗了,所以如今才給LLM判死刑!

憑借著GPT/o系列、Gemini 2.5、Claude的強大能力,OpenAI、谷歌、Anthropic紛紛在AI大戰中各領風騷。

唯獨Meta,沒有走在前沿。

Llama 4自發布以來種種拉跨的表現,讓Meta在某種程度上淪為了業內的「笑柄」。甚至有離職研究者都特意在簡歷上標明,自己并未參加Llama 4的訓練。

在這樣的背景下,業內最近對Yann LeCun的批評之風,是越來越盛了。

盡管這位圖靈巨頭是一位頂級科學家,然而,他能夠動用數千億的資本用于計算資源和內部研究,卻仍然把Meta搞砸了。

那么,他的問題,究竟出在哪兒呢?

圖片

圖片

有人說,Meta在LLM大戰中之所以落后,恰恰就是因為LeCun一直在積極表達自己對LLM前進方向的反感和拒絕。

如果在幾十年后回望,LeCun今天的態度或許是對的,但跟奧特曼這類持硬核態度的激進分子相比,這種心態絕對會讓Meta在當前的競爭中處于劣勢。

圖片

如果一個大公司的首席人工智能科學家,都不相信自己正在投入工作的架構,而對于自己所信仰的架構卻沒有足夠驚艷的成果,那么,造成目前的局面,就是顯而易見的事情了。

圖片

LeCun對于LLM路線的不看好,被很多網友評論為「教條主義」。

「許多頂尖科學家都有這種毛病:因為太過自我,認為自己才最了解一切,因此難以轉型。甚至有時,這些頂級人物的教條會直接影響到科學進步。」

圖片

對此,有人總結出了Meta失敗的幾大核心原因。

  • LeCun反對LLM的論調
  • Meta在MoE架構方面還是新手
  • 開源發布過早導致的失敗
  • 研究產品團隊的不協調,組織和管理的不善

當然,第一代Llama的出現,依然對于開源界有著石破天驚的意義,可在每天都在大爆炸的AI圈,這仿佛已經是五百年前的事了。

接下來,除非LeCun真的能成功開辟新范式,實現JEPA這樣的世界模型,要么,Meta就只能繼續在AI競賽中落后。

圖片

下面讓我們看看,近期LeCun對LLM「判死刑」的種種言論。

首先,LLM已經是過去式了

在英偉達2025 GTC大會上,LeCun表示了這樣的觀點:「我對LLM不再感興趣了!」

他認為,如今LLM已經是過去式了,而我們的未來,在于四個更有趣的領域:理解物理世界的機器、持久記憶、推理和規劃。

不過有趣的是,如今Llama的下載量已經達到了十億次,這就意味著人們對LLM有強烈的需求,多少與「LLM已過時」的觀點矛盾了。

圖片

言歸正傳,在演講中LeCun表示,縱觀整個AI歷史,幾乎每一代研究者都在發現新范式時宣稱,「就是它了!再過五年、十年,我們就能造出在所有領域都比人類更聰明的機器。」

七十年來,這種浪潮差不多每十年就出現一次,而這一波,也同樣會被證明是錯的。

所以,「只要把LLM繼續無限放大,或者讓它們生成成千上萬段Token序列,再從中挑出好的,就能獲得人類級智能;兩年內數據中心里就會誕生一個天才之國」的論調,在他看來完全就是胡說八道。

尤其是LLM所使用的Token,在刻畫物理世界這件事上,完全不是一種好的方法。原因很簡單:Token是離散的。

在典型的LLM里,可選Token只有十萬級左右。于是,當你讓模型去預測文本序列的下一個Token時,它只能輸出一個概率分布,但永遠不可能百分之百地給出那個唯一正確的Token。

對于文本來說,這套做法的問題還不大;但在視頻等既高維又連續的自然數據面前,所有想通過像素級預測視頻來讓系統理解世界、構建世界模型的嘗試,幾乎全部失敗。

同樣地,哪怕只是訓練神經網絡去學習圖像的優質表征,凡是依賴從損壞或變換后的圖像重建原圖的技術,也基本以失敗告終。

其次,自回歸LLM絕對「藥丸」

在今年3月底的2025美國數學會聯合會議上,LeCun則發表了一個題為「通往人類水平人工智能的數學障礙」的演講。

圖片

在LeCun看來,如今的機器學習水平依舊拙劣。它的學習效率極低——模型往往要經歷成千上萬次樣本或試驗才能達到目標性能。

雖然自監督學習的確改變了AI,但它仍然非常有限。而動物和人類卻能極快地掌握新任務、理解世界運行方式,能夠推理、規劃,還能擁有常識——它們的行為是由目標驅動的。

圖片

相比之下,自回歸的LLM,則是通過預測序列中的下一個詞或符號來訓練的;這個序列可以是文本、DNA、樂譜、蛋白質等離散符號。

然而,自回歸預測存在一個根本性難題。

本質上,它是發散的:設想生成的符號是離散的,每輸出一個符號,就有多達100 000種可能。

如果把所有可能的Token序列視作一棵分叉度100000的巨型樹,只存在一小棵子樹對應于「合格答案」的所有延續。

問題在于,這棵「正確子樹」僅是整棵樹的微小子集。

若假設每生成一個符號就有獨立的錯誤概率e,那么長度為n的序列完全正確的概率,便是(1?e)^n。

即便e極小,該概率仍會隨n呈指數級衰減,而在自回歸框架下,這就無從補救。

因此,LeCun的判斷是:自回歸的大語言模型注定被淘汰!幾年后,任何一個理智的人都不會再使用它們。

這就是LLM所謂幻覺的根源:它們會胡說八道,本質上就是自回歸預測導致的。

圖片

在LeCun看來,在構建AI系統的新概念上,我們遺漏了非常重要的東西。

僅靠把LLM塞進更大的數據集,我們永遠無法抵達人類級AI。但現在別說復現數學家或科學家,我們連模仿一只貓都做不到。

家貓能規劃復雜動作,擁有因果模型,預知自身行為后果,而人類就更卓越了,10歲的孩子第一次就能把餐桌收拾干凈、把餐具放進洗碗機——這就是零樣本學習。

如今,AI已能通過律師資格考試、解數學題、證明定理——可L5自動駕駛汽車在哪?家用機器人又在哪?

我們仍造不出能真正應對現實世界的系統。事實證明,物理世界遠比語言復雜得多。

圖片

這,就是莫拉維克悖論。

人類覺得麻煩的任務——比如計算積分、求解微分方程、下棋、規劃穿越多座城市的路線——對計算機而言卻輕而易舉。

這說明,若有人把「人類智能」稱作「通用智能」,那純屬無稽之談——我們根本不具備通用智能,而是高度專門化。

一款典型的現代LLM,大概是在2×1013(約20萬億)個token上訓練的。若按每Token 3字節計算,總量就是6×1013字節,向上取整約101?字節。要讓任何一個人讀完這些文本,得花上幾十萬年。

但一個4歲的小孩,雖然醒著的時間總共只有16000小時,但來自視覺、觸覺、聽覺等感官的物理世界信息,讓他在這段時間里積累的信息量,同樣達到了101?字節。

也就是說,如果AI無法通過觀察世界來學習其運行規律,我們就永遠到不了人類級別——因為文字里根本沒有那么多信息。

在Meta,他們不使用AGI這一說法,而是高級機器智能(Advanced Machine Intelligence,AMI):

? 能通過感官輸入自行學習世界模型與心智模型,從而掌握直覺物理與常識;

? 擁有持久記憶;

? 能夠規劃復雜的動作序列;

? 具備推理能力;

? 在設計之初就保證可控與安全,而不是事后靠微調彌補。

LeCun預計在三到五年內,Meta就能在小規模上把這件事跑通;之后就看如何把它們擴展,直到真正做到人類級智能。

圖片

AMI的認知架構,可以簡述如下。

? 世界模型;

? 若干目標函數;

? 行動體——負責優化動作以最小化代價;

? 短期記憶,對應大腦中的海馬體;

? 感知模塊——幾乎整個大腦后部都在做這件事;

? 以及一個配置器。

圖片

所以,究竟怎樣才能讓系統從視頻等感官輸入中,學到世界的心智模型?

能不能借用自回歸預測的思路,像訓練LLM那樣訓練生成式架構,去預測視頻接下來會發生什么,比如未來幾幀?

答案是不行。

LeCun表示,自己已經在這條路上折騰了20年,徹底失敗。

它適合離散符號的預測,但我們不知道該如何有意義地在表示概率密度函數的高維連續空間中,預測一個視頻幀。

圖片

而他的解決方案,就是一種被稱為JEPA(Joint Embedding Predictive Architecture,聯合嵌入預測架構)的技術。

LeCun表示,如果自己的判斷沒錯,而且采用JEPA確實比生成式架構更靠譜,那所有人就該把生成式架構徹底丟掉。

他也承認,在如今人人都在聊GenAI的大環境下,自己卻對他們說:「放棄GenAI吧!」像極了一個異類。

圖片

總之,LeCun在演講最后給出了鏗鏘有力的吶喊。

如果你對人類水平的AI感興趣,就不要專注于大語言模型。

如果你是AI領域的博士生,你絕對不應該從事LLM的工作,因為你把自己置于與擁有成千上萬GPU的大型團隊競爭的位置,你將無法做出任何貢獻。

他表示,如果我們能在接下來五年內或十年內,解決一些真正的問題,那我們就能走上一條通往能規劃和推理的真正智能系統的道路。

而唯一可行的方法,就是開源。

LeCun表示,如果自己成功了,那AI將成為放大人類智慧的一種工具,這只會對人類有好處。

圖片

一件積壓在心底的陳年往事

而LeCun分享一件陳年往事,則讓我們能夠些許洞察到他的內心世界。

2022年,LeCun和Meta的幾位同事訓練出了一個LLM,把能找到的全部科學文獻都塞了進去。

這個模型取名為Galactica。他們寫了一篇長論文詳述訓練過程,開源了代碼,還上線了一個所有人都能試玩的在線Demo。

結果,這個項目就在推上被噴得體無完膚。

許多人喊著「這東西太可怕了,它會摧毀整個科學交流體系」,因為連傻瓜都可以寫出一篇聽上去像模像樣的「論吃碎玻璃有益健康」的科學論文了。

負面評論如同海嘯般襲來,可憐的同事們夜不能寐,最后只能被迫撤下Demo,只留下論文和開源代碼。

當時他們的結論是:世界還沒準備好接受這種技術,也沒人真正感興趣。

結果三周后,他們就迎來了暴擊:ChatGPT上線了,公眾的反應儼然是「救世主再臨」。

LeCun和同事們面面相覷,對于公眾突如其來的這股熱情百思不得其解。

Meta真不行了?不見得

雖然質疑聲不斷,但LeCun同樣擁有著一些堅定的支持者。

正如有人在聽完他演講后,動容地表示——

「我真心敬佩LeCun,一位現實主義者,開源倡導者,一個絕非跟風炒作的人。盡管他因為反對LLM教條而招致很多仇恨,但我仍尊重他的誠實。」

「很高興在如今這個時代,聽到有人談論LLM的局限性,尤其是他還在為一家股東公司工作。只有我們忽略炒作,關注局限性、失敗的可能性以及其他工程原則時,AI才會是安全的。」

即便面對如今表現不佳的Llama 4,這些支持者依然堅信,在幾個月內我們就會看到令人印象深刻的進展。

圖片

在一篇名為「即使LLM到達平臺期,也不一定意味著人工智能寒冬」的帖子中,有人堅定支持了LeCun的路線。

圖片

在發帖人看來,雖然如今的大實驗室都在專注于LLM,但仍有一些較小的實驗室在探索替代路徑。

他表示,自己一直以為Meta的LeCun團隊是唯一一個在研究基于自監督、非生成、視覺系統的團隊。

但就在幾周前,有一群研究者發布了一種新的架構,該架構建立在LeCun一直倡導的許多想法之上。

圖片

論文地址:https://arxiv.org/abs/2503.21796

在某些情況下,甚至超過了LeCun自己的模型。

圖片

而且,在過去幾年中,已經有越來越多的類似JEPA的系統出現,LeCun在視頻中也提到過它們。

其中有些來自較小的團隊,有些則來自谷歌。

如果哪一天,LLM這條路真的行不通,陷入停滯,或許我們會看到資金投入的下降,因為當前的投資其實很多都是基于公眾和投資者的熱情之上的。

圖片

但是,這并不意味著AI寒冬。過去之所以有寒冬,是因為人們從未被AI真正「震撼」過一次。

但自從ChatGPT誕生,人們已經見到了如此「聰明」的AI,這就讓AI領域吸引了前所未有的關注,這種熱情并沒有消退跡象。

與其說我們會進入AI寒冬,不如說我們正在看到一種從主導范式向更多樣化格局的轉變。

對于整個人類來說,這是一件好事。當涉及到像智能這樣難以復制的領域時,不把所有雞蛋放在一個籃子里,才是最聰明的做法。

責任編輯:張燕妮 來源: 新智元
相關推薦

2022-04-14 10:22:30

NginxLinux

2022-07-06 13:06:29

Meta神經網絡架構自監督學習

2025-06-11 09:06:00

AI架構算力

2022-11-03 11:20:56

阿里云CPU

2023-05-22 11:20:27

數據庫MySQL關系數據

2023-08-29 13:50:00

AI谷歌

2024-03-04 11:08:07

貴州算力券

2019-06-24 15:21:05

Git操作修改

2024-07-19 11:50:28

2024-01-26 12:48:49

AI數據

2020-05-25 15:19:53

Python

2024-03-19 08:18:46

GPT-5算力Altman

2015-07-30 09:46:42

開源項目

2024-12-24 14:30:00

模型AI訓練

2023-09-06 12:56:23

智能訓練

2025-02-25 13:00:00

2020-04-09 13:20:57

Zoom谷歌訴訟

2009-07-01 17:10:22

微軟Adobe

2024-11-29 15:58:43

點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 国产中文一区二区三区 | 久产久精国产品 | 欧美色a v | 欧美日韩精选 | 国产一区二区三区 | 国产精品视频一二三区 | 黄在线免费观看 | 久久精品视频9 | 亚洲成人久久久 | 91se在线 | 国产精品 亚洲一区 | 成人在线电影在线观看 | 中文字幕福利视频 | 国产精品一区二区在线播放 | 国产成人a亚洲精品 | 国产精品永久免费视频 | 欧美黑人一级爽快片淫片高清 | 国产精品区二区三区日本 | 亚洲二区视频 | 日本不卡视频 | 日韩一级| 日韩一区二区免费视频 | 亚洲午夜av久久乱码 | 一区二区在线 | 综合精品 | 性xxxxx | 免费看国产一级特黄aaaa大片 | 国产精品日韩在线观看一区二区 | 久久一区二区三区电影 | 色婷婷九月 | 一级黄在线观看 | 久久成人精品视频 | 日韩中文字幕一区二区 | aa级毛片毛片免费观看久 | 九九精品视频在线 | 欧美日韩在线一区 | 国产精品一区二区三区在线 | jizz中国日本| 91久久综合亚洲鲁鲁五月天 | 97在线观看 | 久久久久国产一区二区三区四区 |