?作者 | 徐杰承
自去年12月ChatGPT發布以來,關于大型語言模型(LLM)和聊天機器人的話題幾乎統治了整個互聯網。各大科技巨頭們也紛紛在不久后意識到了其所能夠帶來的無限商機。
最先采取行動的微軟通過追加100億美元投資、將ChatGPT整合進了自家搜索引擎Bing;稍顯謹慎的谷歌則在花費了一定時間和精力后推出了自研聊天機器人Bard;不甘落后的國內科技巨頭百度,也于近期宣布將在今年3月攜聊天機器人文心一言殺入這場混戰。
但一家以往一向表現激進的科技巨頭卻似乎有意放棄了這場“ChatGPT之戰”,這家企業正是扎克伯格所帶領的Meta。令人感到驚訝的是,Meta可能已是目前唯一一家仍未加入此次聊天機器人潮流的科技巨頭了。
1、高開低走,屢戰屢敗
細究Meta表現反常的原因,很有可能是由于過去多次的失敗嘗試——其實早在2022年6月,Meta便開源了其自研的大型語言模型OPT-66B,并同年8月發布了基于OPT-66B的聊天機器人BlenderBot3,比ChatGPT早了3個月之久,可以說Meta算得上第一批涉足LLM聊天機器人的公司。
雖然彼時BlenderBot3只在美國進行了發布,但其在當時引起的轟動甚至不亞于如今的ChatGPT。在發布僅幾小時后,Twitter和Reddit上便已充滿了人們與BlenderBot3有趣對話的截圖。
然而很快,這個“成功”的聊天機器人便走向了一場災難。大量用戶發現,BlenderBot3會發表惡性言論與虛假信息,甚至質疑扎克伯格的商業策略,稱其“不道德”。這使得大量用戶漸漸失去了對BlenderBot3的信任,最終,Meta眼睜睜看著自己花費重金打造的“大寶貝”逐漸走向了沒落。
當然,一次的失敗并沒有澆滅Meta對于LLM的熱情。重整旗鼓后,Meta又于2022年11月聯合Papers with Code發布了另一款基于大型語言模型的機器人Galactica,相比于此前失敗的BlenderBot3,Galactica具有更具體的應用領域——代寫論文。
據官方介紹,Galactica由4800萬份論文、教科書等素材訓練而成,無論是代寫論文摘要、介紹、公式,甚至是參考文獻統統不在話下。不僅如此,除文本生成外,Galactica 還可以執行涉及化學公式和蛋白質序列的多模態任務。
但這一次,Meta依然沒能解決LLM生成準確性的問題,雖然Galactica的賬面實力看似十分強勁,但其所撰寫的論文中卻存在大量錯誤甚至是偽造內容。為了不讓影響繼續擴大,Meta不得不在發布僅三天后匆匆下架了Galactica。
2、掌舵人信念動搖
接連的失敗似乎使Meta AI掌舵人——圖靈獎得主、Meta首席AI科學家Yann LeCun對LLM的信念產生了一些動搖。而近期ChatGPT以及谷歌Bard出錯的消息,也仿佛給予了LeCun一定的支持。
無論是出于對自己面子的保護,還是真的從兩次失敗中意識到了LLM機器人的致命缺陷,如今的LeCun都已從原先的LLM擁護者轉變為了LLM的抨擊者。
隨著相關話題熱度的不斷升高,LeCun也開始通過各種渠道積極揭露大型語言模型以及聊天機器人的不足。在近期由Collective Forecast組織的在線討論中,LeCun表示:雖然在公眾眼中它們是革命性的,但就底層技術而言,如今的聊天機器人不是多么了不起的創新。
此外,LeCun還多次在Twitter上表達了自己對ChatGPT的不屑:它無法擴展,也永遠不會成為通向強人工智能的正確道路。擴大自動回歸的LLM根本無法使聊天機器人達到人類智慧水平。除了糾正語法、完成句子或總結文章外,我不認為ChatGPT能做更多正確的事情。
LeCun認為,像OpenAI這樣的小公司沒有什么可以失去的,他們當然能夠利用不成熟的技術和產品為自己炒作。但大公司選擇蹚這趟渾水顯然是非常不明智的,尤其是當人們都看到了使谷歌損失1000億美元的失敗嘗試后。
3、Meta的布局與取舍
其實長久以來,Meta在人工智能領域的投入始終保持在各大科技企業的前列,Meta人工智能團隊的大多數創新都進入了他們的廣告業務,直至現在,他們仍在努力將自研的人工智能模型及算法轉化為可以帶來收益的產品。
LeCun指出,由于BlenderBot和Galactica的失誤,Meta長期以來一直因傳播虛假信息而受到指責。如今的Meta希望能夠更加嚴格的把控他們所發布的工具與內容,而不是盲目利用聊天機器人潛入當前的“人工智能熱潮”,并再次犯下相同的錯誤。
不管是由于此前失敗所帶來的陣痛,還是掌舵人觀念的轉變,如今的Meta的確正在回避這場全球矚目的戰役。在一次有關生成式人工智能的采訪中,LeCun表示:扎克伯格關于元宇宙的長期夢想仍在進行中,自己也同樣認同一個事實,即生成式人工智能可能可以在元宇宙中得到最好的實現。而當談到大型語言模型和聊天機器人時,現在的他們似乎更愿意在遠處坐山觀虎斗,積極尋找谷歌、微軟或是OpenAI正在犯下的錯誤,并從中吸取足夠的經驗。
參考鏈接:
https://analyticsindiamag.com/meet-the-ai-genius-who-is-obsessed-with-llms/
http://www.myzaker.com/article/63e3902e8e9f094fe76b7af7/
https://analyticsindiamag.com/why-meta-took-down-its-hallucinating-ai-model-galactica/