火遍AI圈的萬字長文,Lecun卻說標題太好笑,作者發推:歡迎來辯
本文經AI新媒體量子位(公眾號ID:QbitAI)授權轉載,轉載請聯系出處。
Lecun一句話,恐怕又要引來一場唇槍舌戰了。
這個標題錯得太荒謬了,太搞笑了。
他所說的這篇文章不是別的,正是最近在圈內引起了一波討論熱潮的《深度學習要碰壁了》。
從文章發布以來,幾天內它在推特上引起了幾百人的轉發點贊。
有人認同也有人反對,但真正讓作氣到跳腳的,還是Lecun在Facebook上的這條評論。
導致Gary Marcus本人直接在推特上“下戰書”:歡迎你發表觀點,我洗耳恭聽。
并且就在幾個小時前,他還掛出Lecun在2018年發表的觀點。
強調Lecun當時認為這10個問題中有很多都是錯的,在目前看來這些問題都還沒有被解決。
不過目前Lecun還沒有做出回應。
文章具體說了什么?
首先,我們來看一下Gary Marcus這篇文章中,具體講了哪些內容。
大體來看,全文可分為兩個部分:
- 當下的深度學習充滿了炒作,實際上只有在粗略計算時的效果表現好;
- 深度學習應該調整發展方向,和符號處理結合在一起。
作者開篇即提到了Hinton在2016年提出的論點:
AI將在5年內取代放射科醫生。
目前來看,這一豪言的確沒有實現。
實際上,AI在應用中遇到的“滑鐵盧”不是少數:
比如代表著醫療AI的IBM Watson被拆分出售、GPT-3等語言模型三觀不正、無人駕駛事故頻發……
對此作者認為,深度學習在完成輸出對精密度要求高的結果時,表現往往不夠好,以上列舉的3個場景就是最好的論證。
而且深度學習已經遇到了擴展限制(scaling limits),也就是再繼續擴大模型所帶來的的收益,已經不夠明顯。
相反,在圖像識別這種只需要粗略結果的情況下,深度學習的效果是好的。
對此,作者提出了自己的觀點:
深度學習應該與符號處理 (symbol manipulation)相結合。
符號處理,可以看做是計算機內部編碼,比如用二進制位串來代表一些復雜的想法。
為什么得出這樣的觀點?在這里作者舉了一個例子。
在Meta發起的一場NetHack挑戰比賽上,AI以1:3的成績敗給了游戲系統。
要知道,這其實是一款在1987年就發布的單人地下城探索游戲,它的地圖由ASCII 字符編碼。
作者認為,AI之所以會輸掉比賽,主要是因為每場游戲都會重新生成新的地圖,這意味著玩家不能通過死記硬背地圖來取勝,而是要理解游戲中的各種標志,并且搞清楚它們之間的聯系。
他還列舉了麥卡錫、明斯基等行業先驅的觀點,認為符號處理可以被用來構建精確的人工智能程序,用符號來表示獨立實體和抽象思想。
不過純符號系統在圖像識別、語音識別任務上的表現不夠好。
而這部分,正是神經網絡所擅長的。
作者提到,谷歌搜索中的自動拼寫糾錯,正是神經網絡和符號處理結合使用的最好案例。
實際上,在這方面的探索也從來沒有停止過。
比如最負盛名的AI——AlphaGo,就是使用符號樹搜索和神經網絡混合的系統。
還有包括IBM、英特爾、谷歌等科技巨頭,這些年也從未停止過在這一領域的積極探索。
網友:Lecun可能只是開玩笑
如此一篇萬字長文,一經發表就在網絡上激起千層浪。
在不少學界大佬轉發的另一面,也有不少人對Gary Marcus的觀點存疑。
有人就提出,深度學習并不存在碰壁,而是正在經歷一個階段轉型期。
也有人用漫畫來生動地表達自己的看法。
另一邊,支持Gary Marcuns的人則表示:
他只是提出來一種混合模型,這有什么壞處嗎?
而在Gary Marcus向Lecun“下戰書”的推特下面,有人也勸他消消氣。
可能Lecun只是說著玩的。
最后,我們再來了解一下Gary Marcus。
他是Robust.AI的創始人,這是一家智能機器人公司,自稱擁有世界上第一個工業級AI認知引擎。
他還是紐約大學名譽教授,在神經科學、遺傳學、進化心理學、AI等領域發表過大量文章,其文章很多刊登在Nature、Science上。
與此同時,他還是一位作家,作品包括《The Algebraic Mind》、《Kluge》、《The Birth of the Mind》等。
那么對于這篇長文,你怎么看呢?