愛德華·阿什福德·李:人類與AI技術將是共生關系
有關科學哲學的熱門書籍大都會有引人注目的標題,比如“什么是時間”,“什么是物質”,“什么是能量”,或者“進化如何催生出意識”等。但是,如果你讀一些技術哲學方面的熱門書籍,你便會發現其中有不少關于從采集社會到農業社會,再到工業革命如何轉變的論述。計算機技術創造出了人工智能,并將改變未來工作的性質,我的書《柏拉圖與技術呆子》[3],就是關于數字和計算機技術的一部作品。它與眼下正在發生的事情息息相關。書中的一個重要主題便是數字技術正在和人類文明協同進化。我們依賴技術而生存,而技術也依賴我們,這種合作共生的趨勢越來越明顯。技術并不是所謂的“應用科學”,和發現相比,它更多地受到創造力的驅動。任何進化過程都需要隨機變異,創造力讓這種突變成為可能。
即便自動駕駛的汽車會出現追尾事故,會失控沖向人群,大多數汽車制造商今天仍在繼續生產這樣的汽車。為什么?這是技術問題嗎?還是經濟問題?或是責任法和個人自由的文化議題?我相信后者是主要的。技術發展和文化發展盤根錯節、息息相關。如何看待人工智能技術的出現和使用?谷歌、臉書、亞馬遜、蘋果,以及許多初創公司和非營利組織已經通過技術讓我們變得更聰明、聯系更緊密、也更易受到傷害。我們把人類已經獲得的知識放進口袋隨身攜帶,而非放入大腦中。令人驚訝的是,維基百科已經成為了一種集體主義的智慧,而這種智慧在無政府主義的混亂中很難實現。這些工具不僅用人工智能替代了思維,也在改變著人類思維的性質。
我們人類正在設計這些技術嗎?我們是“造物者”嗎?這些技術是將科學的真知灼見付諸實踐的結果嗎?這些創新究竟是科學的發現還是文化的制品?我的基本主張是,數字計算已經達到了一定的范圍和程度,而新出現的體系太過復雜,無法用有邏輯、嚴密規整的方式加以總結。這其中最具代表性的,便是軟件。軟件已經成為了一種類似于新生命的基因序列的東西,與人類協同進化發展。例如,維基百科,它具有生物的許多特征:會對來自環境的刺激(通過網絡傳入的電信號)作出反應;會自動運行(至少可以維持一段時間,但長期看來仍需依賴于我們);需要營養補給(來自電網的電力);可以自我修復(故障監控,見《柏拉圖與技術呆子》第1章);甚至會做夢(通過后臺索引為搜索提供便利,見《柏拉圖與技術呆子》第5章)。
對于那些復雜的數字和計算行為,比如在維基百科、銀行系統或智能手機中的行為,我們很難辨認出哪些認知體進行了組織嚴密的智能操作。這些系統是通過許多部件和抽象層的結合而發展出來的,它們自身也同樣在發展,經過數十年的反復設計和修正,其間也出現了不少失敗和創造性的轉折。這是典型的協同進化、隨機變異和適者生存的過程。用丹尼爾·丹尼特的話來說,“適應度強就是生殖能力強”[2]。軟件的生殖能力源于它能為使用者提供具體的好處,例如,為使用者提供收入。
根據理查德·道金斯[1]和丹尼爾·丹尼特[2]的說法,人類文明是按照達爾文的方式進化的。文化的“復制因子”是“模因”,即思想和文字。但模因并不像軟件那樣像生物。原則上,軟件能夠在沒有人類的情況下自主生存,這也是讓人工智能如此可怕的一個重要特性。但是,如果未來出現的是一種共生關系而非單方面的毀滅,我們便都可以更好地生存。以任何客觀的標準來衡量,軟件已經讓我們的生活變得更好了。因為它們的出現和使用,我們的金融體系變得更加高效;我們能夠對食物進行生產和分配,如今的我們甚至比過去的法國國王吃得更好;通訊系統更加普及;我們有了以信息為中心的經濟活動新領域。軟件會取代我們嗎?我在《柏拉圖與技術呆子》中指出,數字和計算的本質為軟件的發展設下了局限,這些限制最終可能會使人類顯得獨特而靈活。然而,令人不安的是,文化和技術的變化似乎都在加速。快速的協同進化在本質上是不可預測的。快速進化依賴于生存的另一面——死亡。在我們的文化中,極速前進便是邁向死亡。而且,大多數軟件在未能為其人類共生體提供足夠的效用時就會死亡。
《柏拉圖與技術呆子》這本書探討了工程和科學之間的關系,探討了它們協同進化的模因。我調查了把發現置于發明之上、發明置于設計之上的文化價值體系。我在書中指出,雖然工程師和科學家都在開發和使用模型,但他們在以不同的、互補的方式使用模型。《柏拉圖與技術呆子》提出了兩個對立的觀點:一種觀點認為,知識和技術是由柏拉圖式的理想構成的,這些理想獨立于人類而存在,并被人類所發現;另一種對立的觀點是,知識和技術是人類創造的,而不是被發現的。標題中的“呆子”是一種創造性的力量,它是主觀的,甚至是古怪的,不是客觀的、被挖掘出的、已經存在的事實。我不是哲學家,但從某種意義上說,這是一本哲學書。我很想讓它易于理解,但我的部分論點如果不借助一點數學知識是無法得出的。例如,我推翻了當今在許多科學家中流行的一個理論,即物理世界中的一切都是數字和計算的結果,因此,我們的大腦就是計算機。我用了一點數學知識來說明,這并不是一個科學的命題。(它是不可證偽的。)它只能靠信仰來支撐,而這種信仰幾乎沒有正當的理由。
拋開數學方面的內容,我一直在努力使這本書既具可讀性,又能讓懂數學的人文主義者和懂文化的技術專家都感興趣,但這是我第一次嘗試寫這樣的書,這本書的類型甚至也可能是獨一無二的。因此,我為書中有些艱澀的地方向讀者們道歉。如果你在閱讀中遇到困難,你可以直接跳過。故事一直在發展,雖然故事有結尾,但我希望在結尾向你展示,我們的探索沒有盡頭。
作者:愛德華·阿什福德·李,加州大學伯克利分校電氣工程與計算機科學的羅伯特·S.佩珀杰出教授
參考文獻
1. Dawkins, R. (1976) The Selfish Gene, Oxford University Press.
2. Dennett, D. C. (2017) From Bacteria to Bach and Back: The Evolution of Minds, W. W. Norton and Company.
3. Lee, E. A. (2017) Plato and the Nerd: The Creative Partnership of Humans and Technology, MIT Press.