Claude 3、Sora、Gemini 1.5 Pro的紛紛出現，以及或許今年內就會被放出的GPT-5，讓所有人都不約而同地隱隱感覺：我們似乎離AGI似乎越來越近了。

OpenAI CEO Sam Altman堅定地認為，AGI將在5年內實現。

不過，還需要我們耐心地等待。

英偉達CEO黃仁勛的觀點與Altman不謀而合：如果我們對「像人類一樣思考的計算機」的定義是通過人體測試能力，那么AGI在五年內就會到來。

谷歌機器人工程師Alex Irpan，在LLM出現后，修正了自己原先對AGI出現時間的預測：4年前，他認為AGI在2035年出現的幾率是10%；現在，AGI在2025年，就有10%的幾率出現。

更驚人的是，預測大神Jimmy Apples曾在去年爆料：AGI其實已經在內部實現了。

初創公司Runway CEO兼AI投資人Siqi Chen也曾在去年表示，GPT-5預計在2023年底完成訓練，OpenAI期待它達到AGI水平。

如此說來，馬斯克的橫插一腳，讓AGI進程的加快損失重大……

離職OpenAI員工Logan.GPT表示，接下來的十年，將是人類歷史上最重要的十年。

在這十年里，我們必定會擁有超人AI！

不過細思恐極的一個問題是，AI實在是太耗水耗電了！

最近，ChatGPT耗電量驚人的話題，就上了微博熱搜。

前幾天流傳的PDF曝出，OpenAI新模型Q*的參數很可能達到了125萬億。讓我們算一算，如果AGI真的出現，一天要耗費多少電能？

此外，馬斯克在最近一個公開采訪中表示，芯片短缺緩解，限制AI發展的將是電力和降壓變壓器的短缺。

而獲取高效清潔能源的方法，會直接影響AGI的到來。

Altman：AGI五年內實現

Sam Altman在一本討論AI未來發展方向的書「Our AI Journey」中說到，AI將能完成 「營銷人員、策略規劃人員和創意專業人員95%的工作」。

（這本書采用訂閱模式。新章節完成后就會發布）

他還說，AGI將在 「5 年內成為現實」。

這本書收錄了兩位商業創新者Adam Brotman和Andy Sack對包括Altman在內的頂級人工智能領導者的深度訪談。

Brotman是Forum3的聯合創始人和聯合首席執行官，此前曾擔任星巴克首任首席數字官。Sack也是Forum3的聯合創始人和聯合首席執行官，曾任微軟首席執行官Satya Nadella的顧問。

他們之前的背景表明他們不是那種只會說空話的人。

Altman講述的內容總是能刷新讀者認識的上限。

Altman認為，「當AI能夠獨立完成創新的科學突破時，它就能被稱為AGI了」。

兩位作者想知道AGI將如何影響他們的工作：市場營銷。

于是他們問Altman，AGI對那些想要通過創作廣告活動來建立消費品牌的市場營銷人員意味著什么？

這時，Altman拋出了他的第一個知識炸彈：

意味著營銷人員今天使用代理公司、策略規劃師和創意專業人員所做的95%的工作都將由人工智能輕松、近乎即時、幾乎無成本地處理。

這一切內容都能做到免費、即時完成和近幾乎完美可用。圖片、視頻、活動創意方案都沒有問題。

而且AI很可能能夠根據真實或合成的目標客戶來測試創意，以預測結果并進行優化。

Altman稱AGI即將到來

兩位作者再繼續追問Altman，你認為 AGI 將在何時成為現實？

Altman回答到：

5 年左右，也許會稍長一些——沒有人能說出一個確切的時間，也沒有人知道它對社會的影響到底是什么。

這本書的作者Roetzer說，就算現在AGI還沒有出現，人類就已經能看到經濟、勞動力、教育和社會的大規模變革正在產生了。

就前不久，大型支付公司Klarna剛剛透露，它的AI助理現在已經能勝任700名員工的工作。

這個AI客服由OpenAI提供支持，處理客戶的各種咨詢，支持多語言，能夠直接處理退款和退貨的請求。

Klarna表示，在短短一個月內，AI助手就完成了700名全職客服的工作。

到目前為止，它已經進行了230萬次對話，占公司所有客戶服務對話的三分之二。

它的客戶滿意度得分與人工客服「不相上下」。

而且，它在解決客戶請求方面更準確、更快速。解決請求的平均時間從11分鐘降至2分鐘。

Klarna的CEO暗示社會需要為先進的人工智能做好準備：

這凸顯了人工智能將對社會產生的深遠影響。

我們希望社會和政界人士對AI帶來的影響有慎重考慮，并相信全面、透明的管理對于我們社會應對這場變革至關重要。

老黃：AI會在五年內通過人類測試，未來10年算力將再提高100萬倍

老黃也同意這個觀點，認為AGI將很快到來。

最近，英偉達CEO黃仁勛表示：AI會在五年內通過人類測試，AGI將很快到來！

在斯坦福大學舉行的一個經濟論壇上，黃仁勛回答了這個問題：人類何時能創造像人類一樣思考的計算機？這也是硅谷的長期目標之一。

老黃是這樣回答的：答案很大程度上取決于我們如何定義這個目標。

如果我們對「像人類一樣思考的計算機」的定義，是通過人體測試能力，那么AGI很快就會到來。

五年后，AI將通過人類測試

老黃認為，如果我們把能想象到的每一個測試都列出一個清單，把它放在計算機科學行業面前，讓AI去完成，那么不出五年，AI會把每個測試都做得很好。

截至目前，AI可以通過律師考試等測試，但是在胃腸病學等專業醫療測試中，它依然舉步維艱。

但在老黃看來，五年后，它應該能通過這些測試中的任何一個。

不過他也承認，如果根據其他定義，AGI可能還很遙遠，因為目前專家們對于描述人類思維如何運作方面，仍然存在分歧。

因此，如果從工程師的角度，實現AGI是比較難的，因為工程師需要明確的目標。

另外，黃仁勛還回答了另外一個重要問題——我們還需要多少晶圓廠，來支持AI產業的擴張。

最近，OpenAI CEO Sam Altman的七萬億計劃震驚了全世界，他認為，我們還需要更多的晶圓廠。

而在黃仁勛看來，我們的確需要更多芯片，但隨著時間推移，每塊芯片的性能就會變得更強，這也就限制了我們所需芯片的數量。

他表示：「我們將需要更多的晶圓廠。但是，請記住，隨著時間的推移，我們也在極大地改進AI的算法和處理。」

計算效率的提高，需求并不會像今天這么大。

「我會在10年內，將計算能力提高了一百萬倍。」

馬庫斯潑冷水：GPT-5在2024年不會出現

一直唱反調的馬庫斯也做出了截止2024年底全新的預測——

我們可能會見證：

- 大約7到10款與GPT-4相當的模型問世

- 在技術上不會有革命性的突破（沒有推出GPT-5，或者GPT-5并未達到預期）

- 市場上將出現激烈的價格競爭

- 幾乎沒有公司能夠形成明顯的護城河

- 尚無有效的方法來解決AI產生的幻覺

- 企業對這些技術的采納將保持在一個適度的水平

- 利潤相對適中，將在這7到10家公司之間分配

網友表示，還有11個月就能見證這個結果了。

為了證明自己的預測絕對影響力，馬庫斯還拋出了自己曾在2001年預測的模型幻覺問題。

以及兩年前，2022年3月10日，曾發表了一篇「深度學習正在碰壁」的觀點文章。

文章發表一個月后DALL·E問世，Sam Altman發文嘲諷，「請給我一個平庸的深度學習懷疑論者般的自信...」

而在今天，馬庫斯再次表示「即便過了2年，深度學習依舊面臨同樣的根本性挑戰」！

也就是說，人類靠深度學習到達AGI，遙不可及。

https://garymarcus.substack.com/p/two-years-later-deep-learning-is?r=8tdk6&utm_campaign=post&utm_medium=web&triedRedirect=true

文中他列舉了多個例證，來說明這些觀點至今依舊成立：

- 深度學習從根本上說是一種識別模式的技術，當我們需要的只是粗略的結果時，深度學習就能發揮出最大的作用。

- 目前的深度學習系統經常會出現愚蠢的錯誤。

- 擴大參數規模的爭論——那些已經擴大參數規模的研究，并沒真正改進LLM迫切需要的東西——「理解力」。Kaplan等OpenAI團隊所提出的衡量標準——關于預測下一個單詞，并不同于AI就實現深度理解。

- 「scaling laws」僅是觀察到的現象，就像摩爾定律一樣，可能不會永遠有效。

論文地址：https://arxiv.org/pdf/2001.08361.pdf

當然，馬庫斯最后表示，AGI并非不可以實現，而是人類需要一次范式轉變。越來越多的結果說明，LLM本身不是通向AGI的終點答案。

與此同時，圖靈巨頭LeCun在最近的博客采訪中，也談到——AGI離我們還很遠。

在這個訪談中，LeCun還提到了，「嬰兒只有在已經了解了物質世界如何運作的基礎知識之后，才能習得語言。很多物理知識都是內化的，無法用語言來描述，因此LLM也無法理解」。

吳恩達也參與了AGI的討論，并表示AGI只會慢慢到來，而非一夜之間。

斯坦福團隊憑借「大模型涌現能力是海市蜃樓」獲得NeurIPS杰出論文獎，論文中提到大模型涌現能力的出現是因為研究人員度量選擇，而不是因為模型行為，隨著參數規模變化而發現根本變化。

當許多人突然意識到一項技術（也許是發展已久的技術）時，公眾的感知就會出現斷崖式的變化，從而會紛紛感到驚訝。

但人工智能能力的增長，比人們想象的要持續得多。這就是為什么我預計通往AGI的道路將包括許多前進的步驟，進而讓系統的智能化程度逐步提高。

ChatGPT耗電量驚人，人類撐得住AGI嗎？

雖然AI模型已經在飛速發展，但最近的一個大問題已經讓人揪心：它們實在太耗電了！

人工智能是能源的無底洞，AI未來將會被能源卡脖子。

包括Sam Altman在內的越來越多的AI行業大佬表示，AI的第一性原理，最重要的部分就是能源和智能的轉化率的問題。

因為Transformer本質上不是一個能效很高算法，所以在未來，能源將會是困擾AI發展的一個大問題。

馬斯克最近在一個公開采訪中表示：

AI是有史以來最大的技術革命，我從未見過任何技術進步比現在的AI更快。

芯片短缺的情況可能已經過去，但人工智能和電動汽車正在以如此迅猛的速度擴張，以至于明年世界將面臨電力和變壓器的供應緊縮。

現在AI對算力的需求差不多每半年就會增加10倍。顯然，這種情況不可能永遠以如此高的速度持續下去，否則會超過宇宙的質量。

AI計算的瓶頸是可以預見的……一年前，短缺的是芯片。

然后下一個短缺將是電力。當芯片短缺緩解之后，明年可能就會出現電力將不不足以運轉這些芯片。

然后，很容易預測下一個短缺將是降壓變壓器。

如果電網輸出100-300千伏的電壓，然后必須一路降壓至6伏，那么降壓幅度就很大。

這有一個不是那么好笑的笑話，未來運行Transformer的變壓器（Transformer）將出現短缺。

Hinton：有1/10概率，AI會殺死人類

AGI真正實現那天，終結者中那一幕也在迫近。

「數字智能會取代生物智能嗎」？

「幾乎可以肯定，會的」！

「我們人類應該盡最大努力存活下來」。

AI教父Hinton近日在牛津大學發表了最新演講，給出了驚人言論——在5-20年內，每個人都有1/10的概率被AI被殺死。

圖靈獎得主Bengio也持有同樣的觀點，即有1/5的可能性，我們會被殺死。

Hinton意識到，日益強大的AI模型可以像「蜂巢思維」一樣，相互分享所學知識，從而相對于人類更具優勢。它們可能是一種更好的智能形式。

就比如，GPT-4可以學習語言，會推理、諷刺，還會展現出極高的同理心。

他在演講中說，「我要做出一個非常有力的聲明，這些模型確實能理解」。

這些模型也可能以危險的方式「進化」，形成一種控制的意向性。如果我為政府提供建議，我會說這些AI有10%的可能性會在未來20年內消滅人類。我認為這將是一個合理的數字。

不僅如此，AI界大佬在「關于人工智能殺死所有人的可能性有多大」的問題時，認為有25-49%概率的人最多。

不同的人/組織對AI滅世的概率預測。

AI真的會殺死人類嗎，你怎么看？