對于「通用人工智能」，OpenAI科學家Karpathy下場做出了解釋。

前幾天，Karpathy在個人blog發表了一篇文章「將自動駕駛作為AGI的一個案例來研究」。

不知是何原因，他卻刪除了這篇文章，幸而，還有網絡備份。

眾所周知，Karpathy不僅是OpenAI 的創始成員之一，還曾是特斯拉前AI高級總監、自動駕駛Autopilot負責人。

他將自動駕駛作為案例，研究AGI，這篇文章的觀點確實值得一看。

自動駕駛

LLM的爆發引發了眾多關于AGI降臨的時間，甚至它可能是什么樣子的討論。

有的人對AGI未來充滿希望，持有樂觀的態度。而有的人卻充滿恐懼和悲觀的情緒。

不幸的是，其中也有很多討論過于抽象，導致人們的觀點互不接軌。

因此，我總是在尋找具體的類比和歷史先例，用更具體的術語來探討這個主題。

特別是，當我被問及「你認為AGI會是什么樣子」時，我個人喜歡用自動駕駛舉例。在這篇文章中，我想解釋一下原因。讓我們從AGI的一個常見定義開始：

AGI：一個在大多數有經濟價值的工作中超越人類能力的自主系統。

請注意，在這個AGI定義中有兩個具體要求。

首先，它是一個完全自主的系統，即自己運作，很少或根本沒有人類監督。

其次，它在大多數有經濟價值的工作上都是自主運作的。關于這部分數據，我個人喜歡參考美國勞工統計局的職業指數。

一個同時具有這兩種性質的系統，我們將其稱之為AGI。

我想在這篇文章中建議的是，最近我們自動駕駛能力的發展是一個非常好的早期案例，研究了日益自動化的社會動態，可以拓展到對AGI的總體樣貌和感受的研究。

我這樣認為的原因是，這個領域具有幾個特征。可以簡單地說「it is a big deal」：自動駕駛對社會來說非常容易理解，更常見。

它在經濟規模上占據了很大一部分，并且雇傭了大量的人類勞動力。駕駛是一個足夠復雜的問題，但我們已經實現自動化，并引來社會的高度關注。

當然，也還有其他的行業實現了大規模的自動化，但要么是我個人對它們不太熟悉，要么它們在上述一些屬性方面有所欠缺。

L2級自動化

駕駛的自動化被認為是AI領域中一個極具挑戰的問題，并非一蹴而就。

它是通過逐步將駕駛任務自動化的過程而成的，這個過程中涉及了許多階段性的「工具型AI」。

在車輛自動化方面，目前許多汽車已經配備了L2級駕駛輔助系統。即一個能與人類司機協作，共同完成從起點到終點旅程的AI。

雖然它還不能完全自主駕駛，但L2已經能處理許多駕駛中的基礎任務。

有時，它甚至能自動完成整個操作流程，比如自動泊車。

在這一過程中，人類主要扮演監督角色，甚至可以隨時接手，直接駕駛或下達高級指令（如換道請求）。

在某些方面（比如保持車道居中和快速決策），AI的表現甚至超過了人類，但在一些罕見的情況下還是會有所不足。

這與我們在其他行業看到的許多AI工具非常相似，特別是隨LLM最近的技術突破。

例如，作為程序員，當我用GitHub Copilot來自動補全一段代碼，或使用GPT-4編寫更復雜的函數時，我實際上是將基礎任務交給了自動化系統.

但同樣，如有需要，我也可以隨時介入進行調整。

換句話說，Copilot和GPT-4就像是在編程領域的「二級」自動化工具。

在整個行業中，有許多類似的「二級」自動化解決方案，但并不是所有的都基于大模型，從TurboTax，到亞馬遜倉庫中機器人，再到翻譯、寫作、藝術、法律、營銷等領域的各種「工具型 AI」。

全自動駕駛

隨著時間的推移，一些系統的可靠性達到了新高度，變得就像今天的Waymo那樣。

它們正逐步實現「全自動駕駛」。

如今，在舊金山，你只需打開應用，就能叫到一輛Waymo無人駕駛車，它將會來接你，并把你安全送達目的地。

這實在是令人驚嘆。你無需懂得駕駛，也無需關注路況，只需舒服地靠后坐，并小憩片刻，系統便會將你從起點帶到終點。

與我交談過的許多人一樣，我個人更傾向于選擇Waymo而非Uber，我幾乎只使用它來進行市內交通。

你會擁有更穩定、可預測的旅程體驗，而且駕駛過程平穩，可以聽音樂，不用顧及司機在聽你說話時在想什么。

「復合經濟」

雖然自動駕駛技術已經走入現實，但仍有許多人選擇使用Uber。原因何在？

首先，很多人根本不知道他們可以選擇Waymo作為出行工具。即便知道，許多人對自動化系統仍缺乏足夠的信任，更傾向于由人類司機駕駛。

不過，即使有些人接受自動駕駛，或許他們還是更傾向于人類司機，比如享受與司機的交談，以及與他人的互動。

不僅僅是個人偏好，從現在應用中不斷增長的等待時間可以看出，Waymo面臨著供不應求的問題。市場上的車輛數量遠遠無法滿足需求。

這部分原因可能是，Waymo在管理和監測風險和輿論方面非常謹慎。

另一方面，據我所知，Waymo受到監管機構的限制，只能在街道上部署一定數量的車輛。另一個限制因素是，Waymo不能一夜之間就完全取代Uber。

他們需要建立基礎設施，生產汽車，擴大運營規模。

我個人認為，其他經濟領域的自動化也將面臨同樣的情況——有些人/公司會立即采用它們，但許多人（1）不了解這些技術，（2）即便了解，也不會信任它們，（3）即使信任，他們仍然更愿意與人類合作。

但除此之外，需求超過供應，AGI也將因為同樣的原因受到同樣的限制，包括開發商的自我約束、監管限制以及資源短缺，比如需要建立更多的GPU數據中心。

技術全球化

正如我已經在資源限制中暗示的那樣，這種技術的全球化部署成本非常高，還需要耗費大量人力，推廣速度也慢。

今天，Waymo只能在舊金山和鳳凰城駕駛，但這種技術本身是通用的，還可以擴展，因此該公司可能很快就會推廣到洛杉磯、奧斯汀等地。

自動駕駛汽車還可能會受到其他環境因素的限制，比如在大雪中駕駛。在一些罕見的情況下，它甚至可能需要操作員的救援。

此外，技術能力的擴展還需要很多資源成本，并非是免費的。

比如，Waymo必須投入資源后才能進入另一個城市，比如繪制街道地圖、整體感知路徑規劃、控制算法以適應某些特殊情況，或當地的法規。

就像我們的工作比喻所示，許多工作可能只在某些特定環境下才能實現自動化，若是擴大范圍還需要大量的工作。

無論哪種情況，自動駕駛技術本身都是通用的和可擴展的，其應用前景將隨著時間的推移而逐步拓寬。

社會反應：很快成為「過眼云煙」

關于自動駕駛技術逐漸融入社會的過程，我覺得特別有趣的一點是——

就在幾年前，人們還在熱烈討論并對其充滿了疑慮和擔憂，爭論著它是否能夠成功運作，甚至是否可行，這成了一個廣泛關注的議題。而現在，自動駕駛不再是未來的夢想，它真的出現了。

它不僅僅是一個研究原型，而是成為了一種可以用金錢購買的完全自動化交通方式。

在目前的應用范圍內，自動駕駛技術已經實現了完全的自主性。

然而，總體來看，這似乎并沒有引起太多人的關注。我交流過的大多數人（包括科技領域的！）甚至都不知道這一進展。

當你乘坐Waymo在舊金山的街道上行駛時，你會發現很多人對它投以好奇的目光。他們首先會感到驚訝，然后好奇地凝視。

之后，他們就會繼續自己的生活。

當自動駕駛技術在其他行業也實現完全自主時，世界可能并不會因此而動蕩不安。

大多數人可能一開始，甚至都沒意識到這一變化。當他們注意到時，可能只是好奇地看一眼，然后不以為意，這種反應從否認到接受都有。

有些人可能會因此感到不安，甚至采取一些抗議行動，比如向Waymo汽車前放置交通錐這樣的舉動。

當然，到目前為止，我們距離見證這一現象完全上演還很遙遠。但當它發生時，我期望它在很大程度上具有預測性。

經濟影響

當我們討論就業時，不可否認，Waymo明顯地取代了駕駛員的崗位。

但同時，它也催生了許多以前不存在的工作崗位，這些崗位相對不那么顯眼——比如為神經網絡收集訓練數據的標注人員、遠程協助遇到問題汽車的客服人員、負責建造和維護車隊的工作人員等等。

首先誕生的是一個包含各種傳感器和相關基礎設施的全新行業，旨在構建這些裝備精密的高科技汽車。

正如人們對工作的普遍看法一樣，許多崗位都將發生改變，一些崗位會因此消失，但也會出現很多新的崗位。

這其實是工作形態的一種轉變，而非簡單的崗位減少，盡管崗位減少是最直觀的變化。

雖然很難說總體就業人數不會隨著時間推移而減少，但這種變化的速度比人們簡單預想的要慢得多。

競爭環境

最后，我想談談自動駕駛領域的競爭環境。

幾年前，自動駕駛汽車公司如雨后春筍般涌現。但今天，隨著人們逐漸意識到這項技術的復雜性（我個人認為，基于當前的人工智能和計算技術，實現自動化仍然十分困難），這個領域已經經歷了大規模的整合。

其中，Waymo成為了首個完整展示自動駕駛未來的公司。

盡管如此，還有一些公司仍在緊追不舍，比如Cruise、Zoox，以及我個人特別喜歡的Tesla。

這里我要簡單提一下，基于我在這個領域的經歷和參與。在我看來，自動駕駛行業的終極目標是實現全球范圍內的完全自動駕駛。

Waymo選擇了先實現自動駕駛再全球擴展的策略，而Tesla則是先全球布局再逐步提升自動駕駛技術。

顯然，這兩家公司將會面臨截然不同的調整：一家主要是軟件方面的工作，另一家則是硬件方面的工作。

目前，我對他們的產品都非常滿意，個人而言，我更是對技術本身充滿了支持。

同樣的，很多其他行業也可能經歷一個快速增長和擴張的階段（就像大約在2015年的自動駕駛領域），但最終，可能只有少數幾家公司在這場競爭中存活下來。

在這個過程中，將會有許多實用的AI輔助工具（比如現在的L2 ADAS功能）和一些開放平臺（比如Comma）得到廣泛應用。

通用人工智能（AGI）

以上就是我對通用人工智能（AGI）未來發展的大致設想。

想象一下，這樣的變革將以不同的速度遍布整個經濟體，并伴隨著許多難以預料的相互影響及連鎖反應。

雖然這個設想可能不盡完美，但我認為它是一個值得記住并有益參考的模型。

從模因（memetic）的角度來看，AGI與那種逃離我們控制、在網絡空間自我遞歸提升、制造致命病原體或納米機器人、最終把銀河系變為灰色粘質的超級智能相去甚遠。

相比之下，它更像是自動駕駛技術的發展——一項正在快速推進且能改變社會的自動化技術。其發展速度會在包括受教育的勞動力資源、信息、材料、能源，以及監管等多個方面受到限制。

在這之中，社會既是觀察者也是參與者。

世界不會因此崩潰，而是會適應、變化并重新構建。

就自動駕駛本身而言，交通自動化將大大提升安全性，城市將變得更加清新、通暢，而那些占據道路兩旁的停車場和停放的汽車將逐漸消失，從而讓出更多的空間。

對于通用人工智能（AGI）帶來的所有這些可能的變革，我個人是充滿期待的。

網友熱議

總而言之，Karpathy將AGI看作更像是自動駕駛的發展，這一具體類比的觀點，引發了眾多網友的討論。

「看到那個無法交付FSD的人，決定將FSD與AGI進行類比，實際上確實給了我信心，我們還有幾十年的時間」。

是啊，他好像忘記了「G」。我記得Norvig在幾十年前的人工智能著作中曾說過，「智能」并不意味著無所不能，一個智能體要想有用，解決一個小問題就足夠了。在我看來，這就是G的由來。

而我們現在卻突然又回到了以前那個狹隘的定義？我仍然看不到從LLM和自動駕駛到AGI的路徑。

當然，AGI 的發展可能是漸進而緩慢的，就像我們看到Waymo打造自動駕駛汽車一樣。但這只是眾多方式中的一種，你也可以看到AGI通過非常不同的方式突然出現，就像通過擴展大規模LLM那樣。