Geoffrey Hinton一生都在教計(jì)算機(jī)學(xué)習(xí)。現(xiàn)在他擔(dān)心人造大腦會(huì)控制人類(lèi)的未來(lái)。

紐約客記者面對(duì)面深度采訪(fǎng)了Hinton，從他人生經(jīng)歷展開(kāi)，向大眾解釋了為什么，人工智能之父，會(huì)在自己的晚年，要疾呼：AI如果不加以控制將可能毀滅人類(lèi)。

「人工智能如果能獲得更多控制權(quán)，會(huì)有利于他實(shí)現(xiàn)幾乎一切目標(biāo)」Hinton 談到人工智能的未來(lái)時(shí)說(shuō)道，「研究問(wèn)題是：如何防止它們想要控制一切？現(xiàn)在沒(méi)有人知道答案。」

在你的大腦中，神經(jīng)元排列成大大小小的網(wǎng)絡(luò)。隨著你的每一個(gè)動(dòng)作、每一個(gè)想法，這些網(wǎng)絡(luò)都在發(fā)生變化：神經(jīng)元被納入或排除，它們之間的聯(lián)系在不斷加強(qiáng)或者減弱。

這個(gè)過(guò)程無(wú)時(shí)無(wú)刻不在進(jìn)行——就在你讀這些文字的時(shí)候，它也在發(fā)生——其規(guī)模之大超乎想象。

人類(lèi)有大約800億個(gè)神經(jīng)元，共享1萬(wàn)億個(gè)連接。人類(lèi)的頭骨中包含了一個(gè)星系的星球，它們一直在變化。

Geoffrey Hinton，這位常被稱(chēng)為「人工智能教父」的計(jì)算機(jī)科學(xué)家，遞給我一根手杖。

他說(shuō)：「你需要一根這個(gè)。然后，他沿著一條穿過(guò)樹(shù)林的小路向岸邊走去。小路蜿蜒穿過(guò)一片綠樹(shù)成蔭的空地，經(jīng)過(guò)一對(duì)棚屋，然后沿著石階下到一個(gè)小碼頭。「這里很滑，」Hinton在我們開(kāi)始下坡時(shí)提醒道。

新知識(shí)會(huì)以微調(diào)的形式融入你的現(xiàn)有網(wǎng)絡(luò)。有時(shí)它們只是暫時(shí)的：如果你在聚會(huì)上遇到一個(gè)陌生人，他的名字可能只會(huì)在你記憶的網(wǎng)絡(luò)中留下短暫的印象。

但它們也可能持續(xù)一生，比如說(shuō)，如果這個(gè)陌生人成為了你的配偶。

因?yàn)樾轮R(shí)與舊知識(shí)相融合，你所知道的知識(shí)會(huì)影響你所學(xué)到的。

如果派對(duì)上有人告訴你他的阿姆斯特丹之行，第二天，在博物館里，你的網(wǎng)絡(luò)可能會(huì)讓你容易記住Vermeer（荷蘭著名畫(huà)家）。這樣，微小的變化就有可能帶來(lái)深刻的轉(zhuǎn)變。

Hinton說(shuō)：「我們?cè)谶@里舉行了篝火晚會(huì)。」我們站在一塊突出安大略喬治亞灣的巖石臺(tái)階上，喬治亞灣一直向西延伸到休倫湖。水面上島嶼星羅棋布。

2013 年，六十五歲的Hinton將一家三人初創(chuàng)公司以四千四百萬(wàn)美元的價(jià)格賣(mài)給谷歌，然后買(mǎi)下了這座島嶼。

在此之前，他在多倫多大學(xué)（University of Toronto）擔(dān)任了三十年的計(jì)算機(jī)科學(xué)教授，是神經(jīng)網(wǎng)絡(luò)這個(gè)并不被外界看好的子領(lǐng)域的領(lǐng)軍人物。

「成績(jī)非常一般，因此大多數(shù)研究人員覺(jué)得這個(gè)技術(shù)方向基本上是在浪費(fèi)時(shí)間」

Hinton回憶說(shuō)：「我們的神經(jīng)網(wǎng)絡(luò)的能力還不如一個(gè)小孩。」

十九世紀(jì)八十年代，當(dāng)他看到《終結(jié)者》時(shí)，電影中毀滅世界的人工智能 「天網(wǎng) 」是一個(gè)神經(jīng)網(wǎng)絡(luò)并沒(méi)有出乎他的意料。他很高興看到這項(xiàng)技術(shù)被導(dǎo)演如此看好。

從著火的小凹陷處，石頭上因高溫而產(chǎn)生的裂縫向外輻射。Hinton身材高大、苗條，是個(gè)英國(guó)人。他用棍子戳了戳那個(gè)地方。

作為一個(gè)典型的科學(xué)家，他總是對(duì)物理世界中發(fā)生的事情發(fā)表評(píng)論：動(dòng)物的生活、海灣中的水流、島嶼的地質(zhì)。

「我在木頭下面放了一個(gè)鋼筋網(wǎng)，這樣空氣就能進(jìn)來(lái)，溫度高到金屬都變軟了，」他用一種奇怪的語(yǔ)氣說(shuō)。「這才是真正的火，值得驕傲！」

數(shù)十年來(lái)，Hinton不斷想辦法，以巧妙的方式構(gòu)建更大的神經(jīng)網(wǎng)絡(luò)。

他設(shè)計(jì)出新的方法來(lái)訓(xùn)練神經(jīng)網(wǎng)絡(luò)，不斷提升性能。

他招募研究生，讓他們相信神經(jīng)網(wǎng)絡(luò)并不是一個(gè)沒(méi)有前途的方向。他認(rèn)為自己參與的項(xiàng)目可能會(huì)在一個(gè)世紀(jì)后——在他死后取得成果。

與此同時(shí)，他中年就兩次喪偶，獨(dú)自撫養(yǎng)兩個(gè)年幼的孩子。在一個(gè)特別困難的時(shí)期，家庭生活和研究的壓力壓得他喘不過(guò)氣來(lái)，他認(rèn)為自己已經(jīng)盡了全力。

他說(shuō)：「我在 46 歲的時(shí)候就死心了。」他沒(méi)有預(yù)料到，大約十年前，神經(jīng)網(wǎng)絡(luò)技術(shù)會(huì)突然飛速進(jìn)步。

計(jì)算機(jī)的速度越來(lái)越快，神經(jīng)網(wǎng)絡(luò)利用互聯(lián)網(wǎng)上的數(shù)據(jù)，開(kāi)始轉(zhuǎn)錄語(yǔ)音、玩游戲、翻譯語(yǔ)言，甚至駕駛汽車(chē)。

就在Hinton的公司被收購(gòu)的同時(shí)，人工智能開(kāi)始蓬勃發(fā)展，OpenAI的ChatGPT 和谷歌的Bard等系統(tǒng)應(yīng)運(yùn)而生，許多人認(rèn)為它們正在以不可預(yù)知的方式改變世界。

Hinton沿著海岸出發(fā)了，我跟在后面，腳下的碎石在晃動(dòng)。他說(shuō)：「現(xiàn)在看這個(gè)。他站在一塊人頭大小的巨石前，擋住了我們的去路。」

「這樣你就能過(guò)去了，你把棍子扔過(guò)去」—— 他把自己的棍子扔到巨石的另一邊——「然后這里和這里有支點(diǎn)，這里還有一個(gè)手扶點(diǎn)」。我看著他輕車(chē)熟路地爬過(guò)去，然后，我自己也試探性地邁出了同樣的步伐。

Hinton與神經(jīng)網(wǎng)絡(luò)結(jié)緣

每當(dāng)我們學(xué)習(xí)時(shí)，我們的神經(jīng)元網(wǎng)絡(luò)就會(huì)發(fā)生變化，但究竟是如何變化的呢？

像Hinton這樣的研究人員與計(jì)算機(jī)合作，試圖發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)的 「學(xué)習(xí)算法」，這是一個(gè)通過(guò)改變?nèi)斯ど窠?jīng)元之間連接的統(tǒng)計(jì) 「權(quán)重 」來(lái)吸收新知識(shí)的程序。

1949年，心理學(xué)家Donald Hebb就人們?nèi)绾螌W(xué)習(xí)提出了一個(gè)簡(jiǎn)單的規(guī)則，通常被概括為 「同時(shí)激活的神經(jīng)元將會(huì)連接在一起」。

大腦中的一組神經(jīng)元一旦同步激活，就更有可能再次激活。這有助于解釋為什么人類(lèi)第二次做某事會(huì)感覺(jué)容易得多。

但很快人們就發(fā)現(xiàn)，計(jì)算機(jī)化的神經(jīng)網(wǎng)絡(luò)需要另一種方法來(lái)解決復(fù)雜的問(wèn)題。

十九世紀(jì)六七十年代，作為一名年輕的研究人員，Hinton在筆記本上繪制了神經(jīng)元網(wǎng)絡(luò)，并想象著新知識(shí)到達(dá)它們的邊界。

由幾百個(gè)人工神經(jīng)元組成的網(wǎng)絡(luò)如何存儲(chǔ)一個(gè)概念？如果這個(gè)概念有缺陷，它又該如何修正呢？

我們走過(guò)海岸，來(lái)到Hinton的小屋，這是島上唯一的一間小屋。

小屋用玻璃封閉，高蹺矗立在寬闊黝黑的巖石階梯之上。有一次，我們來(lái)到這里，一條巨大的水蛇把頭伸了過(guò)來(lái)。這是一段美好的回憶。

他的父親是一位著名的昆蟲(chóng)學(xué)家，他的父親向他灌輸了對(duì)冷血?jiǎng)游锏南矏?ài)。

小時(shí)候，他和父親在車(chē)庫(kù)里養(yǎng)了很多毒蛇、烏龜、青蛙、蟾蜍和蜥蜴。如今，當(dāng)Hinton在島上時(shí)--他經(jīng)常在溫暖的月份去島上--他有時(shí)會(huì)找到蛇并把它們帶到家里，這樣他就可以在一個(gè)飼養(yǎng)箱里觀察它們。

他一生都在自下而上地思考問(wèn)題，因此善于觀察非人類(lèi)的思維。

今年早些時(shí)候，Hinton離開(kāi)了谷歌。他擔(dān)心人工智能可能對(duì)人類(lèi)造成危害，并開(kāi)始在接受采訪(fǎng)時(shí)談?wù)撨@項(xiàng)技術(shù)可能對(duì)人類(lèi)構(gòu)成的 「生存威脅」。

他越是使用ChatGPT——一個(gè)在大量人類(lèi)寫(xiě)作語(yǔ)料庫(kù)中訓(xùn)練出來(lái)的人工智能系統(tǒng)——就越是感到不安。

有一天，福克斯新聞的人寫(xiě)信給他，要求就人工智能問(wèn)題進(jìn)行采訪(fǎng)。Hinton喜歡用電子郵件發(fā)送尖刻的單句回復(fù)——在收到一封來(lái)自加拿大情報(bào)機(jī)構(gòu)的長(zhǎng)信后，他回復(fù)道：「斯諾登是我的英雄」。

最后，他回復(fù)道：「Fox News is an oxy moron.」。然后，他靈機(jī)一動(dòng)，問(wèn) ChatGPT 能否解釋他的笑話(huà)。

系統(tǒng)告訴他，他的句子暗示福克斯新聞是假新聞，當(dāng)他提示「moron 」前有個(gè)空格時(shí)，系統(tǒng)解釋說(shuō)福克斯新聞會(huì)讓人上癮，就像藥物「OxyContin」一樣。

Hinton大吃一驚。這種理解水平似乎代表了人工智能的一個(gè)新時(shí)代。

我們有很多理由擔(dān)心人工智能的不斷發(fā)展。例如，擔(dān)心人類(lèi)工作被計(jì)算機(jī)取代就是一個(gè)很正常的事情。

但是，Hinton與包括OpenAI首席執(zhí)行官Sam Altman在內(nèi)的許多著名技術(shù)專(zhuān)家一起警告外界，人工智能系統(tǒng)可能會(huì)開(kāi)始獨(dú)立思考，甚至試圖取代或消滅人類(lèi)文明。

人工智能最杰出的研究人員之一竟然說(shuō)出了如此令人震驚的觀點(diǎn)。

人類(lèi)智能，到底能孕育出什么

他站在自家廚房里對(duì)我說(shuō)：「很多人說(shuō)，LLM就是一個(gè)很高級(jí)的自動(dòng)完成功能」。

他一生中大部分時(shí)間都在忍受背痛的折磨，最終嚴(yán)重到他完全沒(méi)辦法坐著。自2005年以來(lái)，他從來(lái)沒(méi)有坐著超過(guò)1個(gè)小時(shí)。

「現(xiàn)在，讓我們來(lái)分析一下。假設(shè)你想成為預(yù)測(cè)下一個(gè)單詞的高手。如果你想成為真正的高手，就必須理解別人在說(shuō)什么。」

「這是唯一的辦法。因此，通過(guò)訓(xùn)練讓某個(gè)東西真正擅長(zhǎng)預(yù)測(cè)下一個(gè)單詞，實(shí)際上就是強(qiáng)迫它去理解。是的，這是確實(shí)只是「自動(dòng)補(bǔ)全」--但你并沒(méi)有想清楚擁有一個(gè)真正好的「自動(dòng)補(bǔ)全」意味著什么」。

Hinton認(rèn)為，大型語(yǔ)言模型，例如OpenAI聊天機(jī)器人背后的GPT技術(shù)，是可以理解單詞和想法的含義的。

那些認(rèn)為我們高估了人工智能能力的懷疑論者指出，人類(lèi)思維與神經(jīng)網(wǎng)絡(luò)之間存在著巨大的差異。

首先，神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式與我們不同：我們是有組織地獲取知識(shí)，通過(guò)經(jīng)歷和把握這些經(jīng)歷與現(xiàn)實(shí)和自身的關(guān)系。

而神經(jīng)網(wǎng)絡(luò)則是抽象地學(xué)習(xí)，通過(guò)處理有關(guān)它們并不真正居住的世界的龐大信息庫(kù)。

但Hinton認(rèn)為，人工智能系統(tǒng)所展示的智能超越了其人工起源。

他告訴我：「當(dāng)你吃東西時(shí)，你把食物吃進(jìn)去，然后把它分解成微小的各個(gè)部分。所以你可以說(shuō)，我身體里的各個(gè)部分都是由其他動(dòng)物的各個(gè)部分組成的。但這是不可能的。」

他認(rèn)為，通過(guò)分析人類(lèi)的書(shū)寫(xiě)，像GPT這樣的大型語(yǔ)言模型可以了解世界是如何運(yùn)作的，從而產(chǎn)生一個(gè)能夠思考的系統(tǒng)。

而書(shū)寫(xiě)只是這個(gè)系統(tǒng)所能做的一部分。他接著說(shuō)：「這就好比毛毛蟲(chóng)如何變成蝴蝶。毛毛蟲(chóng)變成蛹，然后從蛹里破繭成蝶」。

他開(kāi)始在廚房外的一個(gè)小柜子里翻找起來(lái)。「啊哈！」他說(shuō)。他興致勃勃地把一個(gè)東西放在柜臺(tái)上——一只死蜻蜓。

它保存得非常完好。他解釋說(shuō)：「這是我在碼頭發(fā)現(xiàn)的。它剛在石頭上孵化出來(lái)，正在晾干翅膀，所以我把它捉住了。看看下面。」

Hinton捕捉到的這只蜻蜓剛從幼蟲(chóng)形態(tài)中蛻變出來(lái)。這只幼蟲(chóng)長(zhǎng)相迥異，有自己的眼睛和腿。它的背部有一個(gè)洞，蜻蜓就是從這個(gè)洞里爬出來(lái)的。

「蜻蜓的幼蟲(chóng)是生活在水下的怪物，」Hinton說(shuō)。「就像電影《異形》中一樣，蜻蜓從怪物的背部爬出。幼蟲(chóng)在這個(gè)階段變成了液體，然后蜻蜓從液體中誕生了。」

在他的比喻中，幼蟲(chóng)代表了用于訓(xùn)練現(xiàn)代神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)，蜻蜓則代表了由此產(chǎn)生的人工智能。

深度學(xué)習(xí)——Hinton開(kāi)創(chuàng)的技術(shù)——導(dǎo)致了這種蛻變。

我彎下腰，想看得更清楚一些。Hinton站得筆直，他幾乎總是這樣，小心翼翼地保持著姿勢(shì)。

「非常漂亮，」他輕聲說(shuō)。「你明白了吧。一開(kāi)始是一個(gè)東西，現(xiàn)在卻變成了另一個(gè)完全不一樣的東西。」

幾周前，當(dāng)Hinton邀請(qǐng)我參觀他的小島時(shí)，我曾想象過(guò)可能出現(xiàn)的情況。也許他是一個(gè)想要獨(dú)處的內(nèi)向者，或者是一個(gè)有著上帝情結(jié)和未來(lái)主義情結(jié)的科技霸主。

在我抵達(dá)的前幾天，他通過(guò)電子郵件發(fā)送了一張他拍攝的照片，照片上一條響尾蛇盤(pán)踞在島上的草叢中。我不知道自己是感到高興還是害怕。

事實(shí)上，就私人島嶼而言，Hinton的島嶼并不算大，總共只有兩英畝。

Hinton本人與硅谷的技術(shù)大亨截然相反。現(xiàn)年七十五歲的他有著Joshua Reynolds畫(huà)作中的英倫面孔，白發(fā)襯托著寬闊的前額。他的藍(lán)眼睛通常很穩(wěn)重，只留下嘴巴來(lái)表達(dá)情感。

他是一個(gè)善于侃侃而談的人，喜歡談?wù)撟约骸?/span>

但是他告訴作者，他并不是一個(gè)自負(fù)的人，他的生活一直籠罩在悲痛之中。

「我也許應(yīng)該告訴你我的妻子們的事情，」我們第一次交談時(shí)他說(shuō)。「我有過(guò)三次婚姻。一次友好結(jié)束，另外兩次悲劇收?qǐng)觥埂?/span>

他與早年結(jié)婚的第一任妻子Joanne仍然保持著友好關(guān)系，但他的第二任和第三任妻子Rosalind和Jackie都分別于1994年和2018年死于癌癥。

在過(guò)去的四年里，Hinton一直和退休社會(huì)學(xué)家Rosemary Gartner在一起。

她溫柔地告訴我：「我覺(jué)得Hinton是那種總是需要伴侶的人。他是一個(gè)浪漫的理性主義者，對(duì)科學(xué)和情感有著平衡的感性認(rèn)識(shí)。

他把蜻蜓放好，然后走到一張小書(shū)桌前，那里擺放著一臺(tái)筆記本電腦，旁邊是一堆數(shù)獨(dú)謎題和一本筆記本。。他問(wèn)道：「我們來(lái)畫(huà)畫(huà)我的家譜吧？」他用兩根手指輸入了 「Geoffrey Hinton家譜」，然后按了回車(chē)鍵。

Hinton的家譜

2013 年，谷歌收購(gòu)了Hinton的初創(chuàng)公司，部分原因是該團(tuán)隊(duì)發(fā)現(xiàn)了如何利用神經(jīng)網(wǎng)絡(luò)大幅提高圖像識(shí)別能力。現(xiàn)在，屏幕上出現(xiàn)了無(wú)窮無(wú)盡的家譜。

Hinton出身于一個(gè)特殊的英國(guó)科學(xué)世家：政治上激進(jìn)，富有創(chuàng)造力。

在他的家譜中，他的叔祖父Sebastian Hinton是叢林健身器的發(fā)明者，他的堂姐Joan Hinton是參與曼哈頓計(jì)劃的物理學(xué)家。

在他上一輩，還有Lucy Everest，她是第一位當(dāng)選為英國(guó)皇家化學(xué)研究所成員的女性。

Charles Howard Hinton，是一位數(shù)學(xué)家，創(chuàng)造了魔方的概念，魔方是通往四維空間的大門(mén)（電影《星際穿越》中出現(xiàn)了一個(gè)魔方）。

James Hinton，他是一位開(kāi)創(chuàng)性的耳外科醫(yī)生。19 世紀(jì)中葉，希頓的曾曾祖父、英國(guó)數(shù)學(xué)家George Boole發(fā)明了二進(jìn)制推理系統(tǒng)，即現(xiàn)在的布爾代數(shù)，它是所有計(jì)算的基礎(chǔ)。

Boole的妻子Mary Everest是一位數(shù)學(xué)家和作家，也是George Everes的侄女。

「Hinton生來(lái)就是搞科學(xué)的料，」Hinton以前的學(xué)生和合作者、現(xiàn)在 Meta 公司負(fù)責(zé)人工智能的Yann LeCun告訴我。

然而，Hinton的家庭比這更奇怪。他的父親Howard Everest Hinton于19世紀(jì)10年代墨西哥革命期間在墨西哥長(zhǎng)大，在他父親管理的銀礦上工作。

「他是個(gè)狠人」Hinton這樣評(píng)價(jià)他的父親。

家族傳說(shuō)說(shuō)，12歲時(shí)，Howard Everest Hinton曾威脅要射殺他的拳擊教練，因?yàn)樗慕叹毺珖?yán)厲了，教練把他的話(huà)當(dāng)真了，就逃離了小鎮(zhèn)。

Howard的母語(yǔ)是西班牙語(yǔ)，在伯克利上大學(xué)時(shí)，他的口音曾被人嘲笑。「他和一群同樣受到歧視的菲律賓人混在一起，成為了伯克利的激進(jìn)分子。

在學(xué)校，Hinton喜歡自然科學(xué)。但是，出于意識(shí)形態(tài)的原因，他的父親禁止他學(xué)習(xí)生物學(xué)。

在布里斯托爾大學(xué)任教的Howard是昆蟲(chóng)學(xué)家中的印第安納-瓊斯：他把世界各地的珍稀生物裝在行李中偷運(yùn)回英國(guó)，并編輯了一份該領(lǐng)域的重要期刊。

Hinton的中間名也是Everest，所以他感受到了巨大的壓力，必須做出自己的成績(jī)。

他記得父親曾對(duì)他說(shuō)：「如果你比我努力一倍，當(dāng)你比我大一倍時(shí)，你可能會(huì)有我一半優(yōu)秀。」

在劍橋大學(xué)，Hinton嘗試了不同的領(lǐng)域，但他沮喪地發(fā)現(xiàn)自己從來(lái)都不是班上最聰明的學(xué)生。

他曾短暫地離開(kāi)大學(xué)，「閱讀令人沮喪的小說(shuō)」，并在倫敦打零工，然后又回來(lái)嘗試建筑學(xué)，但只做了一天。

最后，他涉獵了物理、化學(xué)、生理學(xué)和哲學(xué)，尋找重點(diǎn)，最終選擇了實(shí)驗(yàn)心理學(xué)學(xué)位。

他在道德哲學(xué)家Bernard Williams的辦公室里 「出沒(méi)」，發(fā)現(xiàn)他對(duì)計(jì)算機(jī)和心靈很感興趣。

有一天，Williams指出，我們不同的思想一定反映了我們大腦中不同的物理設(shè)定。這與計(jì)算機(jī)中的情況完全不同，在計(jì)算機(jī)中，軟件獨(dú)立于硬件。

Hinton被這一觀察所震撼；他記得在高中時(shí)，一位朋友曾告訴他，記憶可能是以 「全息 」的方式存儲(chǔ)在大腦中的——也就是說(shuō)，記憶是分散的，但可以通過(guò)任何一個(gè)部分訪(fǎng)問(wèn)整體。

他所遇到的是 「連接主義」—— 一種結(jié)合神經(jīng)科學(xué)、數(shù)學(xué)、哲學(xué)和編程的方法，旨在探索神經(jīng)元如何共同 「思考」。

「聯(lián)結(jié)主義」的一個(gè)目標(biāo)是在計(jì)算機(jī)中創(chuàng)建一個(gè)類(lèi)似大腦的系統(tǒng)。

這方面已經(jīng)取得了一些進(jìn)展：1950 年代，心理學(xué)家、聯(lián)結(jié)主義先驅(qū)Frank Rosenblatt制造了一臺(tái)機(jī)器，名為 「感知器（Perceptron）」，它使用簡(jiǎn)單的計(jì)算機(jī)硬件模擬了一個(gè)由數(shù)百個(gè)神經(jīng)元組成的網(wǎng)絡(luò)。

當(dāng)連接到光線(xiàn)傳感器時(shí)，該儀器可以通過(guò)跟蹤不同光線(xiàn)模式激活了哪些人工神經(jīng)元來(lái)識(shí)別字母和形狀。

在小屋里，Hinton站著來(lái)回踱步，在廚房柜臺(tái)后面來(lái)回走動(dòng)，并在一樓轉(zhuǎn)了一圈。

他做了一些吐司，給我們每人拿了一個(gè)蘋(píng)果，然后用階梯凳為自己支起了一張小桌子。

家庭的壓力讓他無(wú)法滿(mǎn)足暫時(shí)的需求。「我一直很喜歡木工活，」我們吃飯時(shí)，他俏皮地回憶道。「在學(xué)校，我晚上自己會(huì)去做木工。我經(jīng)常在想，如果我是一名建筑師，是否會(huì)更快樂(lè)，因?yàn)槲也槐貜?qiáng)迫自己去做。

而對(duì)于科學(xué)，我總是不得不強(qiáng)迫自己。因?yàn)榧彝サ脑颍冶仨毘晒Γ冶仨氄业揭粭l路。這其中有快樂(lè)，但更多的是焦慮。現(xiàn)在我成功了，這讓我感到無(wú)比欣慰。」

Hinton的筆記本電腦叮當(dāng)作響。自從他離開(kāi)谷歌后，他的收件箱里就不斷收到關(guān)于人工智能的評(píng)論請(qǐng)求。他走過(guò)去看了看郵件，然后又迷失在家族樹(shù)的森林里，所有這些樹(shù)似乎都有這樣或那樣的問(wèn)題。

他說(shuō)：「看看這個(gè)。」

我走過(guò)去看了看屏幕。這是一棵 「學(xué)術(shù)家譜」，亨廷頓在最上面，下面排列著他的學(xué)生和他們的學(xué)生。

這棵樹(shù)太大了，他必須橫向滾動(dòng)才能看到他的影響范圍。「哦，天哪，」Hinton說(shuō)。「她其實(shí)不是我的學(xué)生。"」他進(jìn)一步滾動(dòng)。「他才華橫溢，卻不善于當(dāng)顧問(wèn)，因?yàn)樗约嚎偰茏龅酶谩！?/span>

Hinton是一位精心培育人才的人，他似乎很享受被學(xué)生超越的感覺(jué)：在評(píng)估求職者時(shí)，他經(jīng)常問(wèn)他們的顧問(wèn)：「他們比你強(qiáng)嗎？」

回憶起1977年去世的父親，Hinton說(shuō)：「他非常好勝。我經(jīng)常在想，如果他能在我身邊看到我取得成功，他會(huì)不會(huì)很高興。因?yàn)楝F(xiàn)在我比他更成功。」

根據(jù)谷歌學(xué)術(shù)的數(shù)據(jù)，Hinton現(xiàn)在是心理學(xué)家中被引用次數(shù)第二多的研究者，也是計(jì)算機(jī)和認(rèn)知科學(xué)家中被引用次數(shù)最多的研究者。

如果說(shuō)他在劍橋大學(xué)的起步是緩慢而古怪的，那么部分原因是他在一個(gè)新興領(lǐng)域探索。

他合上筆記本電腦，說(shuō)道：「神經(jīng)網(wǎng)絡(luò)——當(dāng)時(shí)在好大學(xué)里做這個(gè)的人很少。在麻省理工學(xué)院做不了，在伯克利做不了，斯坦福也不行。」

所以Hinton作為一個(gè)新興技術(shù)的開(kāi)創(chuàng)者也給他帶來(lái)了優(yōu)勢(shì)。多年來(lái)，許多最優(yōu)秀的人才都來(lái)找他。

「天氣不錯(cuò)，」希頓第二天早上說(shuō) 「我們應(yīng)該去砍棵樹(shù)。」 他穿著一件正裝襯衫，看起來(lái)不太像伐木工人。

不過(guò)，他還是搓了搓手。在島上，他總是在砍樹(shù)，以創(chuàng)造更有序、更美麗的場(chǎng)景。

幾乎每個(gè)房間都有需要改的地方，在我參觀的時(shí)候，Hinton已經(jīng)在這些地方上上附上了小紙條，來(lái)提醒新的工人，而且經(jīng)常就直接寫(xiě)在建筑材料上。

在一樓的浴室里，靠墻的一塊底板上寫(xiě)著：「浴室應(yīng)使用這種底板（僅限淋浴前的楓木裝飾）」。在客房的壁櫥里，遮蔽膠帶沿著架子延伸： 「不要給架子打底，給架子支撐打底」。

給事物貼標(biāo)簽對(duì)人的思維很有幫助，可以幫助他們把握現(xiàn)實(shí)。

但人工智能這么做意味著什么呢？當(dāng)Hinton在愛(ài)丁堡大學(xué)獲得人工智能博士學(xué)位時(shí)，他想到了如何在計(jì)算機(jī)中模擬大腦中的 「認(rèn)知」。當(dāng)時(shí)，也就是 1970 年代，絕大多數(shù)人工智能研究人員都是 「符號(hào)主義者」。

在他們看來(lái)，對(duì)番茄醬的認(rèn)識(shí)可能涉及許多概念，如 「食物」、「醬汁」、「調(diào)味品」、「甜味」、「鮮味」、「紅色」、「西紅柿」、「美國(guó)人」、「炸薯?xiàng)l」、「蛋黃醬 」和 「芥末」；這些概念合在一起，就形成了一個(gè)腳手架，「番茄醬 」這樣一個(gè)新概念就可能被掛在上面。

一個(gè)資金雄厚的大型人工智能項(xiàng)目名為 「Cyc」，其核心是建立一個(gè)龐大的知識(shí)庫(kù)，科學(xué)家們可以使用一種特殊的語(yǔ)言將概念、事實(shí)、規(guī)則以及不可避免的例外情況輸入其中。(鳥(niǎo)會(huì)飛，但企鵝、翅膀受損的鳥(niǎo)或......）。

但是，Hinton對(duì)這種方法表示懷疑。這種方法似乎過(guò)于僵化，過(guò)于專(zhuān)注于哲學(xué)家和語(yǔ)言學(xué)家所擁有的推理能力。

他知道，在自然界中，許多動(dòng)物在沒(méi)有獲得可以用語(yǔ)言表達(dá)的概念的情況下也能做出聰明的行為。它們只是通過(guò)經(jīng)驗(yàn)學(xué)會(huì)了如何變得聰明。

學(xué)習(xí)，而不是知識(shí)，才是智慧的動(dòng)力。

人類(lèi)的復(fù)雜思維似乎往往是通過(guò)符號(hào)和文字進(jìn)行的。但是，Hinton和他的合作者James L. McClelland以及David Rumelhart認(rèn)為，很多行為都發(fā)生在次概念層面。

他們寫(xiě)道，請(qǐng)注意，「如果你了解了關(guān)于某個(gè)物體的新事實(shí)，你對(duì)其他類(lèi)似物體的預(yù)期往往會(huì)發(fā)生變化」：例如，如果你被告知黑猩猩喜歡洋蔥，你可能會(huì)猜測(cè)大猩猩也喜歡洋蔥。

如何感受到神經(jīng)網(wǎng)絡(luò)的魅力

1986年，Hinton、Rumelhart和Williams在《自然》雜志上發(fā)表了一篇三頁(yè)的論文，展示了這樣一個(gè)系統(tǒng)如何在神經(jīng)網(wǎng)絡(luò)中工作。

他們指出，像玻爾茲曼機(jī)一樣，反向傳播并不是「大腦學(xué)習(xí)的合理模型」。與計(jì)算機(jī)不同，大腦無(wú)法倒帶以審核其過(guò)去的表現(xiàn)。但反向傳播仍然實(shí)現(xiàn)了類(lèi)似大腦的神經(jīng)特化。

在真正的大腦中，神經(jīng)元有時(shí)被排列成旨在解決特定問(wèn)題的結(jié)構(gòu)。例如，在視覺(jué)系統(tǒng)中，不同的神經(jīng)元「列」識(shí)別我們所看到的邊緣。

因此，負(fù)責(zé)破譯筆跡的網(wǎng)絡(luò)的某些層可能會(huì)緊緊地集中在識(shí)別線(xiàn)條、曲線(xiàn)或邊緣上。最終，整個(gè)系統(tǒng)可以發(fā)展出「適當(dāng)?shù)膬?nèi)部表示」。

在十九世紀(jì)五十年代和六十年代，感知器和聯(lián)結(jié)主義曾短暫興起，又漸漸衰落。反向傳播作為其中的一部分，也獲得了廣泛的關(guān)注。

但是，受限于當(dāng)時(shí)的硬件能力，構(gòu)建反向傳播網(wǎng)絡(luò)的實(shí)際工作進(jìn)展緩慢。「進(jìn)步的速度基本上是，計(jì)算機(jī)能在一夜之間學(xué)到多少東西？」Hinton回憶道。

從概念上講，神經(jīng)網(wǎng)絡(luò)是神秘的。不可能以傳統(tǒng)方式編程。你不能進(jìn)去編輯人工神經(jīng)元之間連接的權(quán)重。而且，很難理解這些權(quán)重意味著什么，因?yàn)樗麄円呀?jīng)通過(guò)訓(xùn)練適應(yīng)和改變了自己。

學(xué)習(xí)過(guò)程有很多種方式可能會(huì)出錯(cuò)。例如，在「過(guò)度擬合」中，網(wǎng)絡(luò)有效地記住了訓(xùn)練數(shù)據(jù)，而不是從中學(xué)習(xí)泛化。避免各種陷阱并不總是那么簡(jiǎn)單。

新的神經(jīng)網(wǎng)絡(luò)架構(gòu)被開(kāi)發(fā)出來(lái)：「循環(huán)」和「卷積」網(wǎng)絡(luò)允許系統(tǒng)通過(guò)以不同的方式構(gòu)建自己的工作來(lái)取得進(jìn)展。但就好像研究人員發(fā)現(xiàn)了一種他們不知道如何使用的外星技術(shù)。

「我一直相信這不是胡說(shuō)八道，這不是信仰——對(duì)我來(lái)說(shuō)只是完全顯而易見(jiàn)的事實(shí)」，Hinton說(shuō)。大腦使用神經(jīng)元來(lái)學(xué)習(xí)，因此，通過(guò)神經(jīng)網(wǎng)絡(luò)進(jìn)行復(fù)雜的學(xué)習(xí)必須成為可能。

當(dāng)網(wǎng)絡(luò)通過(guò)反向傳播進(jìn)行訓(xùn)練時(shí)，需要告訴他們什么時(shí)候錯(cuò)了，錯(cuò)了多少，這需要大量準(zhǔn)確標(biāo)記的數(shù)據(jù)。這將使網(wǎng)絡(luò)能夠看到手寫(xiě)的「7」和「1」之間的區(qū)別，或者金毛獵犬和紅色二傳手之間的區(qū)別。

但是很難找到足夠大的標(biāo)記良好的數(shù)據(jù)集，而且構(gòu)建數(shù)據(jù)集是一項(xiàng)艱巨的任務(wù)。LeCun和他的合作者開(kāi)發(fā)了一個(gè)巨大的手寫(xiě)數(shù)字?jǐn)?shù)據(jù)庫(kù)，后來(lái)他們用它來(lái)訓(xùn)練一個(gè)網(wǎng)絡(luò)，可以讀取美國(guó)郵政服務(wù)提供的樣本郵政編碼。

斯坦福大學(xué)的李飛飛教授率先開(kāi)展了一項(xiàng)名為ImageNet的巨大研究。創(chuàng)建它需要收集超過(guò) 1400 萬(wàn)張圖像，并手動(dòng)將它們分類(lèi)為兩萬(wàn)個(gè)類(lèi)別。

隨著神經(jīng)網(wǎng)絡(luò)變得越來(lái)越大，Hinton設(shè)計(jì)了一種將知識(shí)從大型網(wǎng)絡(luò)獲取到可以在手機(jī)等設(shè)備上運(yùn)行的較小網(wǎng)絡(luò)的方法——蒸餾。

在蒸餾學(xué)習(xí)中，一個(gè)神經(jīng)網(wǎng)絡(luò)不僅為另一個(gè)神經(jīng)網(wǎng)絡(luò)提供正確的答案，還為另一個(gè)神經(jīng)網(wǎng)絡(luò)提供一系列可能的答案及其概率。這是一種更豐富的知識(shí)。

Hinton并不愛(ài)反向傳播網(wǎng)絡(luò)，因?yàn)檫@一切都是確定性的。不過(guò)，隨著計(jì)算機(jī)性能的進(jìn)步，反向傳播的力量變得不可否認(rèn)。

Hinton在腦海中做了一個(gè)計(jì)算。假設(shè)在1985年，他開(kāi)始在一臺(tái)快速研究計(jì)算機(jī)上運(yùn)行一個(gè)程序，并一直運(yùn)行到現(xiàn)在。如果他今天開(kāi)始在目前人工智能使用的最快系統(tǒng)上運(yùn)行相同的程序，那么只需不到一秒鐘的時(shí)間就可以趕上。

在2000年左右，隨著配備強(qiáng)大計(jì)算機(jī)的多層神經(jīng)網(wǎng)絡(luò)開(kāi)始在更大的數(shù)據(jù)集上進(jìn)行訓(xùn)練，Hinton、Bengio 和 LeCun 開(kāi)始談?wù)摗干疃葘W(xué)習(xí)」的潛力。

這項(xiàng)工作在2012年跨過(guò)了一個(gè)門(mén)檻，當(dāng)時(shí)Hinton，Alex Krizhevsky和Ilya Sutskever推出了AlexNet，這是一個(gè)八層神經(jīng)網(wǎng)絡(luò)，最終能夠以人類(lèi)水平的精度識(shí)別ImageNet中的對(duì)象。

2017年6月，Hinton、Bengio和LeCun獲得了圖靈獎(jiǎng)，相當(dāng)于計(jì)算機(jī)科學(xué)領(lǐng)域的諾貝爾獎(jiǎng)。

Hinton相信，在某種意義上，神經(jīng)網(wǎng)絡(luò)能夠產(chǎn)生感覺(jué)。他認(rèn)為感覺(jué)是關(guān)于什么會(huì)導(dǎo)致行動(dòng)的反事實(shí)陳述。

Hinton告訴我，他在1973年看到了一個(gè)「沮喪的人工智能」。一臺(tái)計(jì)算機(jī)連接到兩個(gè)電視攝像機(jī)和一個(gè)簡(jiǎn)單的機(jī)械臂上，該系統(tǒng)的任務(wù)是將一些積木組裝成玩具車(chē)的形式。

Hinton說(shuō)，「這很難，尤其是在1973年，如果這些積木都是分開(kāi)的，視覺(jué)系統(tǒng)可以識(shí)別它們，但如果你把它們放在一小堆里，就無(wú)法識(shí)別。」

計(jì)算機(jī)無(wú)法處理這個(gè)問(wèn)題，所以砰的一聲，把它們攤在桌子上。如果一個(gè)人這樣做了，你會(huì)說(shuō)他很沮喪。這就像是想要你無(wú)法擁有的東西。

Hinton說(shuō)，「每個(gè)人對(duì)人工智能的第一反應(yīng)是，我們必須阻止這種情況。就像每個(gè)人對(duì)癌癥的第一反應(yīng)是，我們?cè)撊绾吻谐康匾氖且J(rèn)識(shí)到，當(dāng)剪掉它只是一個(gè)幻想時(shí)。」

他嘆了口氣，「我們不能否認(rèn)，我們需要思考，我們?nèi)绾巫屗鼘?duì)人類(lèi)來(lái)說(shuō)不像它可能的那樣可怕？」

人工智能會(huì)變得多么有用或危險(xiǎn)？沒(méi)有人確切知道，部分原因是神經(jīng)網(wǎng)絡(luò)太奇怪了。

在二十世紀(jì)，許多研究人員想要制造模仿大腦的計(jì)算機(jī)。但是，盡管像OpenAI 的GPT模型這樣的神經(jīng)網(wǎng)絡(luò)是類(lèi)腦的，因?yàn)樗鼈兩婕皵?shù)十億個(gè)人工神經(jīng)元，但它們實(shí)際上與生物大腦截然不同。

今天的人工智能是基于云端的，存儲(chǔ)在工廠(chǎng)一般的數(shù)據(jù)中心中。它們?cè)谀承┓矫婺芰懿睿谄渌矫鎱s很智能，它們?yōu)閿?shù)百萬(wàn)用戶(hù)推理，但只有在收到提示時(shí)才會(huì)回復(fù)。

他們可能已經(jīng)通過(guò)了圖靈測(cè)試——這是由計(jì)算先驅(qū)Alan Turing建立的長(zhǎng)期標(biāo)準(zhǔn)。

該標(biāo)準(zhǔn)認(rèn)為，任何能夠在對(duì)話(huà)中令人信服地模仿人類(lèi)的計(jì)算機(jī)都可以合理地說(shuō)是思考。

在谷歌的最后幾年里，Hinton專(zhuān)注于使用更接近大腦的硬件來(lái)創(chuàng)造更傳統(tǒng)的類(lèi)似思維的人工智能。在當(dāng)今的人工智能中，人工神經(jīng)元之間連接的權(quán)重以數(shù)字方式存儲(chǔ)，就好像大腦在記錄自己一樣。

然而，在實(shí)際的模擬大腦中，權(quán)重被內(nèi)置在神經(jīng)元之間的物理連接中。Hinton致力于使用專(zhuān)門(mén)的計(jì)算機(jī)芯片創(chuàng)建該系統(tǒng)的人工版本。

芯片將能夠通過(guò)改變它們的「電導(dǎo)」來(lái)學(xué)習(xí)。由于權(quán)重將集成到硬件中，因此不可能將它們從一臺(tái)機(jī)器復(fù)制到另一臺(tái)機(jī)器。每個(gè)人工智能都必須自己學(xué)習(xí)。「他們必須去上學(xué)。」

因?yàn)槊總€(gè)人工智能芯片獲得的知識(shí)在被拆解時(shí)都會(huì)丟失，所以他稱(chēng)這種方法為「凡人計(jì)算（Mortal Computation）」。

在這種情況下，我們會(huì)得到更重要的東西，那就是能源效率。此外，能源效率鼓勵(lì)個(gè)性：因?yàn)槿祟?lèi)的大腦可以靠燕麥片運(yùn)行，所以世界可以支持?jǐn)?shù)十億個(gè)大腦，所有大腦都不同，每個(gè)大腦都可以不斷學(xué)習(xí)。

作為一項(xiàng)科學(xué)事業(yè)，「凡人計(jì)算」可能會(huì)讓我們更接近于復(fù)制自己的大腦。但Hinton認(rèn)為，數(shù)字智能可能更強(qiáng)大。在模擬智能中，如果大腦死亡，知識(shí)就會(huì)死亡。

相比之下，在數(shù)字智能中，如果一臺(tái)特定的計(jì)算機(jī)死了，這些相同的連接強(qiáng)度可以在另一臺(tái)計(jì)算機(jī)上使用。即使所有的數(shù)字計(jì)算機(jī)都死了，如果你把連接強(qiáng)度存儲(chǔ)在某個(gè)地方，你就可以制造并運(yùn)行另一臺(tái)數(shù)字智能。

一萬(wàn)個(gè)神經(jīng)網(wǎng)絡(luò)可以同時(shí)學(xué)習(xí)一萬(wàn)個(gè)不同的東西，然后分享他們所學(xué)到的東西。這種不朽和可復(fù)制性的結(jié)合表明，我們應(yīng)該關(guān)注數(shù)字智能取代生物智能的問(wèn)題。

Hinton懷疑，對(duì)人工智能潛力的懷疑雖然令人欣慰，但往往是出于對(duì)人類(lèi)例外論的不合理信念。他對(duì)當(dāng)前人工智能聊天機(jī)器人「產(chǎn)生幻覺(jué)」這個(gè)說(shuō)法提出了質(zhì)疑。

「這就是人類(lèi)記憶的樣子。在我們看來(lái)，編造和說(shuō)實(shí)話(huà)之間沒(méi)有界限。說(shuō)實(shí)話(huà)只是正確地編造。從這個(gè)角度來(lái)看，ChatGPT的編造能力是一個(gè)缺陷，但也是其類(lèi)人智能的標(biāo)志。」

Hinton經(jīng)常被問(wèn)到他是否后悔自己的工作。他沒(méi)有。

他說(shuō)，當(dāng)他開(kāi)始研究時(shí)，沒(méi)有人認(rèn)為這項(xiàng)技術(shù)會(huì)成功，即使它開(kāi)始成功，也沒(méi)有人想到它會(huì)這么快成功。正是因?yàn)樗J(rèn)為人工智能是真正的智能，所以他期望它將在許多領(lǐng)域做出貢獻(xiàn)。

然而，他擔(dān)心當(dāng)有權(quán)勢(shì)的人濫用它時(shí)會(huì)發(fā)生什么。蛻變還沒(méi)有完成。我們不知道人工智能會(huì)變成什么樣子。

對(duì)一些人來(lái)說(shuō)，這是一個(gè)哥白尼式的故事，在這個(gè)故事中，我們對(duì)人類(lèi)思維特殊性的直覺(jué)正在被思考的機(jī)器所取代。對(duì)其他人來(lái)說(shuō)，這是普羅米修斯——偷了火，我們就有可能被燒死。

有些人認(rèn)為我們?cè)谧云燮廴耍晃覀冏约旱臋C(jī)器和希望從中獲利的公司所吸引。以一種奇怪的方式，它也可能是一個(gè)關(guān)于人類(lèi)局限性的故事。

如果我們是神，我們可能會(huì)制造出一種不同的人工智能——一種我們可以管理的版本。