Hinton發2024末日預警：10年內人類滅絕！奧特曼預言18個月ASI降臨
2024年，注定是AI歷史上濃墨重彩的一年。
站在2024年的尾聲，各位大佬也給出了自己對于未來的預測。
OpenAI CEO奧特曼看來，我們即將迎接超級智能的到來，而且很快了！2026年夏天，我們或許就會見證奇跡的出現。
Meta首席AI科學家、圖靈三巨頭之一的LeCun，跟奧特曼對此意見不同，他強調，AGI在未來兩年內不會發生。
獲得今年諾獎的人工智能教父Hinton則堅信，AI的進步會很快，但已經到了一個可怕的地步——
10年內，AI可能會導致人類的滅亡！
奧特曼：ASI即將到來，想象18個月后
在圣誕節前夕，外媒記者Bari Weiss采訪了OpenAI CEO奧特曼。
在他看來，超級人工智能ASI，已經離我們很近了！
奧特曼讓我們想象一下，18個月后，2026年夏天即將到來時，AI會是什么樣子？
ASI會如何出現？
在今年9月，奧特曼罕見地發出長文預言：深度學習已經奏效了，ASI即將在幾千天內降臨。
奧特曼強調，我們必須關注科學進步的速度，它不會改變人類深層的基本驅動力，但我們生存的世界將會發生很大的變化。
在他看來，有AI幫我們干活，人類就可以從工作的繁重負擔中解放出來，盡情娛樂和游戲了！
人類天生渴望創造并對彼此有所幫助。人工智能將使我們前所未有地放大自身能力。作為一個社會，我們將回到一個不斷擴張的世界，處于一種正和博弈。
正和博弈是指總收益大于總損失，所有參與者都獲得凈收益的情況
奧特曼認為，我們今天從事的許多工作，在幾百年前的人們眼中可能顯得微不足道，甚至是浪費時間。
但沒有人會回頭懷念過去，渴望自己成為一名點燈人。
如果一個點燈人能夠看到今天的世界，他會覺得眼前的繁榮完全超乎想象。
而如果我們能夠快進到一百年后的未來，那時圍繞人類的繁榮，同樣會讓我們難以想象。
奧特曼預測到來，ASI將引發10倍的科學AI突破，每一年的革命性都會像十年一樣
當被問到，如何衡量我們世界中AI的總體影響時，奧特曼回答說，這些AI產品被人們快速采用，吸引更廣泛的受眾的過程，已經令人印象深刻。
我從未見過，一項技術能如此迅速地被大規模使用。
那么，奧特曼本人是怎樣使用AI的呢？
他表示，自己早已將默認搜索改成了ChatGPT。
他經常用ChatGPT從網絡上獲取實時信息，而不是依賴過去那種傳統的超鏈接流程——如今看來，那種方式簡直像蝸牛爬行一樣緩慢。
所以這種方式仍然被稱為「搜索」嗎？奧特曼說，自己仍稱之為搜索，不過年輕人們會這樣描述：我剛剛「聊」出了這個信息。
Hinton：AI可能會在10年內讓人類滅絕
今年剛獲得諾貝爾物理學獎、77歲高齡的Hinton同樣認為，AI技術的發展速度比自己預期的要快很多。
這讓他感到恐懼，并且發出警告：AI可能會在10年內，讓人類滅絕。
作為深度學習之父，Hinton對自己在創造這項技術中所扮演的角色表示遺憾。
AI的迅疾發展已經如同一次全新的工業革命，但不同的是，這次，機器可能會掌控一切。
因此，政府務必加強對AI公司的監管。
此前，Hinton曾預測，AI有10%的可能性，會在30年內導致人類的滅亡。
而最近，他的說法又提前了。
在BBC廣播4臺的《今日》節目中，主持人問Hinton他的看法是否有所改變。
Hinton再次強調說沒有。甚至他表示，AI讓人類滅絕的時間可能是10到20年，因為，我們從未遇到過比我們更聰明的事物。
「你知道多少例子，是由不聰明的一方控制更聰明的一方？少之又少」。
人類是3歲孩童，AI是成年人
1972年，Hinton在愛丁堡大學首次開始研究神經網絡。當時少有研究者相信，神經網絡可以通過分析數據來學習技能。
在20世紀80年代，他發明了可以自主查找數據屬性、識別圖片中特定元素的方法，奠定了現代人工智能的基礎。
2012年，Hinton和兩名學生Ilya Sutskever和Alex Krishevsky建立了一個神經網絡，可以分析數千張照片，并自學識別花、狗和汽車等常見物體。
但現在，AI技術的發展已經遠比他預期的快得多。導致的后果就是，人類如今只是3歲孩童，但AI卻已經長成了成年人。
Hinton表示，這就像工業革命一樣。
在工業革命中，人類的體力不重要了，因為機器更強大——如果你想挖一條溝，用機器就可以了。
如今的AI，已經在取代人類智能。最前沿的不再是普通的人類智能，而是機器。
狄更斯式的變化
「現在我們擁有的東西正在取代人類的智能。普通的人類智能將不再是前沿，而是機器將成為前沿。」
Hinton預測，AI將極大地改變普通人的生活，就像查爾斯·狄更斯所記載的工業革命一樣。
而AI將如何走向，很大程度上取決于我們的政治制度會如同利用這項技術。
而Hinton擔心的是，盡管AI會帶來生產力的大幅提高，但所有好處都會流向富人，很多人會因為失業而變得更加貧窮，最終這對社會就是不利的。
在工業革命中，機器沒有機會僅僅因為自己更強大而取代人類，因為我們有智能，所以事情仍在掌控之中。
但現在，情況已經不同了，AI很可能會掌握一切。
而對領域內其他知識淵博的專家對AI未來的樂觀看法，Hinton表示，希望他們是正確的。
政府必須監管
然而，Hinton補充道：我擔心，這只看不見的手無法保證我們的安全。如果僅僅依靠大公司追逐利潤的動力，并不足以確保他們安全地開發這些技術。
唯一能迫使這些大公司在安全方面進行更多研究的，就是政府監管。
Hinton呼吁，政府必須在這方面擔起責任。
此前Hinton就表示，自己痛悔向世界介紹AI。
「后悔有兩種。有時候，你會因為做了一些你知道不應該做的事情而感到內疚、后悔；還有一種，是你在同樣情況下還會做一樣的選擇，但最終結果可能并不好。」
「我的后悔屬于第二種。在同樣的情況下，我會再次做同樣的事情，但我擔心這樣做的后果，就是比我們更智能的系統最終會占據控制權。」
畢竟此前，我們從未經歷過擁有比我們更聰明的東西，是什么感覺。
納德拉：OpenAI已成為巨頭
在與知名投資人Bill Gurley和Brad Gerstner深度對話中，納德拉分享了自己對OpenAI獨到的見解。
他表示，「從某種意義上，OpenAI就是這個時代的谷歌、微軟或Meta」。
這番話暗示著，OpenAI可能會像這些科技巨頭定義了此前幾代計算技術一樣，塑造了AI領域的格局。
顯而易見的是，微軟與OpenAI的早期合作，為其在AI競賽中帶來的巨大的優勢。
納德拉稱，「我們基本上獲得了兩年的領跑期，不過這樣領先優勢可能不會再出現了」。
這種戰略合作已經開始顯現成效，包括Shopify、Stripe和Spotify等大型云客戶，已經從AWS或谷歌轉戰微軟陣營。
而OpenAI本身，也早已成為了微軟云服務的重要客戶。
AI無限復制，取代人類在即
o3發布之后，Quora聯創Adam D'Angelo曾表示，「令人瘋狂的是，o3的測試結果已經公開了，但市場仍然沒有將AGI的可能性計入定價之中」。
對此，馬斯克回應道，「市場聲稱會向前看，但實際上只是關注過去。AI最終會讓金錢變得毫無意義」。
馬斯克的這句話在全網掀起了巨大風暴。AGI時代，金錢真的不再重要了嗎？
最近，AI圈大佬Rudolf發表了一篇文章對此做出了回應：
默認情況下，AGI之后，資本比以往任何時候都重要。
文章中，他提出了幾個重要的觀點：AI取代人類勞動力，將從根本上改變生產關系，同時現有的權力結構將更加穩固。
許多人對這個帖子的理解出現了偏差：
(a) 將「資本」僅理解為「金錢」，而不包括工廠和數據中心等實物資本
(b) 主要關注人與人之間的差距，而不是更廣泛的社會問題，如人類的整體地位、社會變革的可能性和人類能動性
業內著名AI咨詢師Luke Hornof總結道，「當能替代人類勞動的AI出現后，擁有資本的人將獲得永久性優勢。
這是因為資金將能更有效地購買成果，由于AI可以被復制，且不像人類具有復雜的偏好，這將導致權力進一步集中在資本持有者手中。
同時，人類勞動力將失去其價值和影響力，削弱人們影響國家的能力和實現卓越成就的可能性」。
一起來看看這篇文章具體講了什么。
首先，需要明確兩個概念：勞動，是指人類為創造價值而付出的體力和腦力努力；資本，是指人類建造的用于生產商品和服務的東西，比如工廠、數據中心、軟件等等。
作者表示，文中提到的「資本」（capital）用來指資本貨物存量，以及用來購買資本品的貨幣。另外，提到的「資金」（money），專指金錢本身。
AI的核心經濟效應在于，它使「資本」成為越來越普遍的勞動力替代品。
后果就是，支付人類勞動時間的需求將大幅減少，因為運行軟件的數據中心直接可以替代人類的腦力勞動！
而這個數據中心的規模，仍在不斷擴大。馬斯克的20萬塊超算已經在緊鑼密鼓建設中了。
xAI研究員Guodong Zhang表示，自己在半年前參觀時還是空的，再看現在，簡直太酷了！
足見，世界數據中心規模只會越來越大，不斷推向取代人類勞動力的極限。
重金招募頂尖人才
隨著AI逐漸取代人類，如何雇傭最合適人才的深層問題，就迎刃而解了。
對于企業來說，可能無法去判斷AI的才能。即便是一些領先的AI評估生態系統，也可能難以正確評判。
但真正的區別在于，AI可以被克隆。
目前，大量資金往往追逐，少數取得突破性成果的明星研究員。他們的才能得到了資本市場的認可，最重要的是，他們的能力是不可被復制的。
但如果頂尖研究員是AI，將從根本上改變了游戲規則。
這意味著，未來每個人，或者至少是那些有足夠資金購買GPU的人，都能獲得這個AI明星研究員。
這就是為什么，一旦我們擁有能替代勞動力的AI，金錢就能更容易找到頂尖人才的主要原因。
當然，人才的價格也會大幅下降，因為AI比同等水平的人類勞動力更便宜。再加上AI可以被克隆，市場的競爭會更加激烈。
另外，將資金轉化為人才的最后一個重大瓶頸是：許多頂尖人才都有復雜的個人偏好。
頂尖藝術家對自己的藝術愿景有著真誠的執著；頂尖數學家對優雅和美有著深深的熱愛。
相比之下，AI的存在就是為了能夠被輕易地收買（至少在其安全訓練的范圍內）。
從2024年這個時間點回望，AI發展軌跡確實遠超所有人的想象。
這一刻，也許是我們駐足思考的最佳時機：當AI真正超越人類，我們該何去何從？
