[[374681]]

從與機器賽跑到第二次機器革命

人工智能革命被稱作第四次工業革命。第一次工業革命是蒸汽機革命，第二次工業革命是電力革命，接下來是以電腦、互聯網為主的第三次工業革命，它是一場信息化革命。然后終于來到第四次工業革命。

第四次工業革命是什么？簡單概括一下，它同前面不同的地方在于技術融合。融合是一個關鍵詞，模糊物理、數字、生物領域之間的界限，出現了網絡-物理系統。所以我們講數字孿生，在現實世界有一個，在數字世界一定有另一個。此外，新興技術在許多領域取得突破，包括機器人、人工智能、納米技術、量子計算、生物技術、物聯網、工業物聯網、第五代5G通訊技術、增材制造/3D打印和自動駕駛汽車等。

工業革命發展歷程：從蒸汽動力到網絡-物理系統

這些技術幾乎顛覆了每個國家的每個行業。這些變化的廣度和深度預示著整個生產、管理和治理系統的轉變。概括起來，我們把它們叫做第四次工業革命。

但這只是一個分法，其實人類發明各種各樣的說法，對我們所面對的現象進行不同的劃分。我再來引入另一個劃分，就是有關機器和人的關系問題。

麻省理工學院的兩位研究者寫了一本書叫《第二次機器革命》，它給了我們另一種分法。所謂的第二次機器革命一定是對應著在前面有第一次機器革命，這兩個作者之前寫的書叫做《與機器賽跑》，從書名來看，那個時候人還有一種主體性，還有一種動力說讓我們和機器賽跑，說不定我們就打敗它了。那個時代，我們認為也許可以造出一個擊敗國際象棋冠軍的機器人，但是不可能有一個程序可以擊敗圍棋，因為圍棋號稱比國際象棋復雜太多了，所以我們覺得還可以賽跑。今天我們說“與機器賽跑”肯定過時了，已經沒辦法跟機器賽跑了。總不能說人工智能程序下一個要攻破的目標是麻將？

《與機器賽跑》、《第二次機器革命》Erik Brynjolfsson / Andrew McAfee 著

所以兩位作者現在寫的新書叫做《第二次機器革命》。第一次機器革命討論的人與機器的關系是這樣的，那個時代雖然開啟了機器革命，但機器實際上是由人類控制的，勞動力也因此顯得“更有價值、更重要”。人類和機器是互補的關系。有的事我們干得更好，有的事機器干得更好，雙方可以互補。到第二次機器革命的時候，這個關系可能不是互補關系，而是替代關系。

怎么突然之間形勢就變得如此急轉直下？我們討論一下邏輯問題。這兩位作者認為基本邏輯就三個。

第一個叫指數級增長，很多例子證明，今天的東西是指數級增長的，導致一個想象力的極限問題，導致一個敏感的初始值問題。

第二個叫數字化進步。我們這么多年來通過數字化把大量的信息積攢起來，到底有沒有產生智慧？如果能夠把這個智慧挖掘出來會怎么樣？作者之一很有意思，把一些谷歌檢索的關鍵詞做成一個模型，用這個模型預測三個月之內美國某個地方房價的增長，發現預測的結果相當精準。將數字化信息轉換成智慧，他們把這叫做數字化的進步。

第三個叫做組合式創新。有一句諺語說，摘取路邊低垂的果子。為什么低的果子都被摘了，因為人走過去隨手就摘了，高處的摘不到，只有爬梯子。有人問是不是創新有一天就終止了？但創新并不是摘果子，而是搭積木，每出現的一個新創新所能夠帶來的創新組合是無限增長的。多增加一個創新并不是摘掉了一個果子，而是增加了未來重組式創新的無限機會。因此創新永遠不會停止。

這三點就是他們所謂的第二次機器革命的邏輯，正是因為這樣的邏輯，我們突然間不能夠簡單地跟機器賽跑了。

▲底層信仰令精英群體的觀點產生分裂

在這種情況下，大家非常在意的就是工作的未來。將來可能沒有工作，所有人都進入無薪時代，真正有工作的人都是貴族，然后由貴族養活大量的沒有工作的普通平民。這個觀點的突出代表是歷史學家尤瓦爾·赫拉利，在前幾年一本極為流行的書中這么寫，把大家嚇出一身冷汗。

[[374682]]

在2018年10月舉辦的“2018信睿論壇”上，赫拉利提出技術用溫水煮青蛙的方式，讓人放棄了自我選擇。而21世紀人工智能的革命將會創造無用階級，不用工作、沒法工作，對經濟、政治系統來說毫無用處

赫拉利認為，未來的人工智能會導致無用的人類，21世紀最重要的不是反抗剝削而是反抗無用。無用的問題可能比剝削嚴重很多倍，工作在很多時候是每一個人的尊嚴所在，是他的價值所在。如果他沒有工作，這個人怎樣還是一個人？這要劃一個很大的問號。我們不能想象一個世界的人都不工作了，盡管你每天都在想象如果不工作會多好，但是如果你不工作一天，會非常不自在，因為我們已經被工作所定義了。

當談到這個東西的時候，有人不干了，代表性的人物就是李開復。李開復就出來說了，赫拉利聳人聽聞，赫拉利雖然是一個歷史學者，但是他不懂技術。李開復說必須停止煽動人類對于AI的恐慌，而且無用階級這個說法本身是對人的巨大打擊，不可以隨便說人是無用的。因為我們是搞AI的，有些事情是AI不能干的，是人能干的。

但是李開復僅僅代表爭論的一方。當討論到AI對人類的影響，我們不針對普通人，首先因為普通人對AI也不是真懂；其次普通往往是追隨精英的，我們要看人類的精英，最尖端的精英是怎么看待這個問題，因為是他們在創造未來的世界。

但是在這個問題上，人類的精英是分裂的。同樣有鼓吹AI的精英出來說AI有非常大的問題，比如霍金。霍金說人工智能有可能會毀滅整個人類文明。霍金去世前特別關心的是劍橋大學的未來研究中心，他說以往人類研究歷史發現的真相只有一個，人類的歷史就是一部愚蠢的歷史，我們能不能反過來想一下人類在什么時候能夠不愚蠢？所以人們轉而研究智能的未來是令人欣喜的變化。劍橋大學的未來研究中心有一個非常簡單的使命，就是研究人工智能在未來會不會毀滅人類。霍金在中心開幕的時候講了一段話，他說人工智能的發展可能幫助人類消滅疾病、消滅貧困、阻止氣候變化，但也可能產生人們不愿意看到的種種后果，包括產生自主武器、造成經濟災難，以及發展出與人類發生沖突時擁有自己意愿的機器。

歐洲正在開展一些立法工作，圍繞人工智能和機器人技術建立新規則。歐洲議會的議員會追問機器人會不會有電子人格，這是一個很嚴肅的問題。如果機器人有電子人格，我們造機器的時候一定要附加一個最后的開關，就是必須要有一個開關能夠讓機器人停止做某種事情。如果大家看過克拉克的著名科幻片《2001太空漫游》，對其中的人工智能電腦哈爾因為不能控制那個開關，結果把人類毀滅了。討論到這里我們發現，如果機器有自己的人格，甚至企圖對創造它的人造成傷害，我們該怎么辦？這是霍金擔憂的問題。

3月，歐盟有關方面與微軟、IBM兩家公司共同簽署了《人工智能倫理羅馬宣言》，該宣言指出人工智能技術應當尊重個人隱私，以可靠而無偏見的方式工作，并且考慮到所有人的需求。IBM執行副總裁認為這一舉措表達了對人工智能及其社會影響的長期擔憂

剛才說到精英群體觀點的分裂，還有其他的代表人物，比如埃隆·馬斯克。馬斯克一邊在研究AI，一邊在談AI的危險。他說人工智能的危險大于核武器的危險，為什么這么說呢？因為AI的能力遠超出我們的想像，而且在以指數增長的速度進化。這里可以回應李開復的說法：“我們是人工智能專家，我們懂。”馬斯克質問，你真的懂嗎？那些所謂的AI專家，他們自以為知道的其實遠比他們實際知道的多，他們以為的自己要比真實的自己聰明得多。我們每個人其實都是這樣，人工智能的專家也毫不例外。

還有比爾·蓋茨，他說我不理解為什么有些人對于人工智能的未來毫不擔憂。

這是我說的精英的一個陣營，另外一個陣營幾乎也同樣強大，比如扎克伯格。在人們討論人工智能可能造成人類末世場景的時候，扎克伯格說這種討論是毫不負責的。人工智能領域最杰出的華人之一吳恩達說：“今天擔心這些事情，好比擔心火星上的人口過剩。”我特別喜歡的一個人工智能專家佩德羅·多明戈斯，在推特上引用了馬斯克的話“人工智能是人類文明存在的根本風險”之后，評論道：“一句話：嘆氣。”他認為馬斯克說得完全不對。

在AI是否淘汰人的問題上，佩德羅認為AI顯然使人更聰明了

這是人類最聰明的一群大腦，如果他們在這個問題上陷入如此分裂的場景，我們作為普通人何以自處？這個問題似乎看上去是無解的，包括剛才講的人工智能到底會毀滅工作還是創造工作。比如段永朝老師講到廚師可以做培訓機器人的工作，可是工作是有一個量的問題，如果沒有大量的工作，有多少人會從廚師轉變為訓練機器人的廚師呢？

有關AI的爭論一定是不會休止的，我們普通人應該如何自處，這是一個很嚴肅的問題。

事實上不光是人類的未來，或者說工作的未來，也包括機器會不會有意識等等，當我們對這些產生惶恐，問題不能得到解答的時候，其實有一個出路。這個出路就是要意識到，這些專家之所以對未來的前景產生不同意見，不是因為他們知道什么，而是因為他們的底層信仰不一樣。

[[374683]]

為什么我強調這個觀點非常重要，我最后主題會落到這里。比如那些預測我們一定會造出有意識的機器人的專家，是因為他相信一個非常基本的假設——人類在本質上是機器。如果人類是機器，我們當然最終可以建立一個有意識的機器人。而那些認為機器永遠不會產生意識的人，也不是因為他是意識專家，而是因為他相信人不可能是純粹的機械生物。

我說到這里大家可能會很疑惑，它不是一個意識問題，而是一個信仰問題。如果一旦談到信仰問題，討論人工智能一定要解構一些最基本的東西，不能就事論事討論人工智能，而是要回到歷史上、回到技術整個的發展歷程上去解構一些最基本的東西。

▲人工智能時代必須思考的三個問題

試圖從技術史上提煉，其實最終一定會回到這里，最終要解構的東西就是三個基本問題。

第一個問題，宇宙的構成是什么。從古希臘以來就爭論不休的一個事情。第二個問題，我們是什么。我們是什么的問題就是人類是什么。第三個問題，不是一個集體概念，是一個個體概念，就是自我的問題，我是什么。

為什么這三個問題在今天變得如此重要，為什么我說這更多是一個哲學的思考？其實你會發現有關這三個問題的回答都不是單一答案，全部都是多重選擇題。

舉一個簡單的例子，比如宇宙的構成，一直有兩種思想流派，一種認為宇宙的構成無他，就是原子，單一的物質。從德謨克利特開始就認為，你作為一個人在這里思考，沒有什么高級的，就是原子在運動，這叫一元論。另外一派人堅決不同意，說的確有原子，但是人不止是由原子構成的，總還有點別的東西。

科學家幾乎都站在第一陣營，科學家認為世界的萬事萬物都可以還原，如果不還原，這個事就沒辦法解釋。所以必須找到一個解釋，通過還原論來講，就一定能夠找到這個物質的原因。你的愛情只不過是一些分子運動，你的意識只不過是一些神經元的纏繞，可以通過各種各樣的東西來證明這一點。

[[374684]]

很多人都堅信，快樂與痛苦主要取決于多巴胺的分泌水平，所謂的快樂只是多肽扛著多巴胺前進

但是二元論者認為這是不對的。當然這里有很多的哲學思考，為什么有的人會相信二元論，有的人會相信一元論，其實本質上我們歸結為他們對現實本質的信仰是什么。

再次回到信仰問題，我們會說一元論是理性和現代的，但是這個世界上永遠有人相信理性和現代的東西是不對的，還有很多東西是精神的，是原子解釋不了的。這就是一元論和二元論的矛盾。哪怕我們可以證明你跟石頭一樣都是原子，我跟這個桌子一樣都是原子；但是你可以用一個石頭、用一個錘子把這個桌子徹底粉碎，毫無內疚。你用一個錘子砸在我腦袋上，你會毫無內疚嗎？一元論和二元論在這里會陷入一個巨大的崩塌。

因此我想說，以上三個問題是今天人工智能時代必須思考的三個問題，而它的思考方向本質上是要討論人類的信仰到底是什么。人類信仰的問題以往是哲學家們的專利、是神學家們的專利，但是今天的人工智能把這個問題推到所有人面前，你也得考慮這些問題。那些做人工智能的人尤其需要考慮這個問題，你是秉持著一種什么樣的信仰在創造這個東西，因為這會決定這個東西將來會達到什么程度，會怎么樣應用。