人工智能的未來到底應(yīng)該是什么樣的？它應(yīng)該朝著什么方向發(fā)展？在發(fā)展的過程中應(yīng)該注意什么？這些都是每一個(gè)關(guān)注科技發(fā)展的人在思考的問題。最近，O'Reilly Media 創(chuàng)始人兼 CEO Tim O'Reilly 在 Linkedin 上發(fā)表了一篇他采訪微軟 CEO Satya Nadella 的文章。在這個(gè)文章中，他們談?wù)摿巳斯ぶ悄艿拇蠓较蚺c未來，并就人工智能發(fā)展過程中出現(xiàn)的問題，給出了自己的看法。文章由 36 氪編譯。

[[205452]]

　　我與 Satya Nadella 見面是在今年 4 月份，是為了我的新書《WTF?What’s the Future and Why It’s Up to Us》（譯者注：2017 年 10 月 10 日發(fā)售）來采訪他。但這篇文章所想討論的大部分內(nèi)容，并不是關(guān)于我的書，而是關(guān)于 Satya 的回憶錄——《Hit Refresh: The Quest to Rediscover Microsoft's Soul and Imagine a Better Future for Everyone》（譯者注：2017 年 9 月 26 發(fā)售）。

　　我們都對(duì)科技的發(fā)展抱有樂觀的態(tài)度，我們堅(jiān)信，人工智能帶來的挑戰(zhàn)是讓我們和社會(huì)定義什么是真正的人類。未來將會(huì)是一個(gè)人工智能強(qiáng)化和增強(qiáng)人類能力的世界，而不是讓人類變得更加無用。這就是我們對(duì)話的基礎(chǔ)。

　　Tim：你在書中提到，人工智能帶來的挑戰(zhàn)將是定義一個(gè)宏大的、鼓舞人心的社會(huì)目標(biāo)。你寫道：“1969 年，肯尼迪總統(tǒng)承諾美國人要登上月球，這個(gè)目標(biāo)的完成，在很大程度上要?dú)w功于，它所帶來的巨大的技術(shù)挑戰(zhàn)，以及它所要求的全球協(xié)作。同樣，我們也需要為人工智能設(shè)定一個(gè)足夠大的目標(biāo)，而且要超越任何可以通過改進(jìn)現(xiàn)有技術(shù)來實(shí)現(xiàn)的目標(biāo)。”我很喜歡這個(gè)想法，不知道你是否可以擴(kuò)展一下。

　　Satya：如果你說，“哇，一個(gè)有視力障礙的人現(xiàn)在可以看到了……或者患有閱讀障礙的人可以閱讀了。”那將是一個(gè)真正的突破！而且，我們也能說“人工智能終于成為了一個(gè)真正帶來包容性的技術(shù)”，這將是非常有意義的，尤其是在我們談?wù)撊斯ぶ悄芸赡軙?huì)對(duì)我們世界造成巨大變革的時(shí)候。相反，我們可以引導(dǎo)人工智能在我們的社會(huì)中創(chuàng)造真正的包容，并全面參與到我們社會(huì)中來。

　　這其中有很多的想法來自我孩子的經(jīng)歷。因?yàn)槲矣幸粋€(gè)特殊需要的孩子，他被“鎖”住了。我總是想，“要是他能說話就好了！”因此，當(dāng)有人談到“腦機(jī)連接”時(shí)，我會(huì)說，“哇，現(xiàn)在想想這能做什么！”

　　在一個(gè)我們要?jiǎng)?chuàng)造這種技術(shù)的世界中，我們甚至可以說：“這是終極技術(shù)”，這是通往超級(jí)智能的道路，指導(dǎo)我們的設(shè)計(jì)原則是每一件事情，指導(dǎo)我們的道德哲學(xué)也是每一件事情。在某種意義上，我們必須做出的最大的路徑依賴性決策將是“誰來設(shè)計(jì)超級(jí)智能”？

　　Tim：我自己書中的一個(gè)章節(jié)叫做“我們的天網(wǎng)時(shí)刻”。我的觀點(diǎn)是，人工智能的中一個(gè)方面我們談?wù)摰貌粔蚨?，那就是，它可能是一個(gè)集體智慧。我們正在利用搜索引擎、社交媒體和金融市場(chǎng)構(gòu)建集體智慧機(jī)制。而且我們已經(jīng)表明了我們所說的這些人工智能，是為了優(yōu)化人們的利益。

　　Satya:沒錯(cuò)。盡管我們有各種各樣的認(rèn)知偏見，但人類還是有很大的優(yōu)勢(shì)。正如 Herbert Simon 所說，我們不再優(yōu)化的時(shí)候，我們就滿足了。這實(shí)際上是有幫助的。有一種滿足是由我們共同的道德基礎(chǔ)所驅(qū)動(dòng)的?，F(xiàn)在，當(dāng)你說，“這是一個(gè)應(yīng)該優(yōu)化的問題”，也就是人工智能，那么我們就有問題要去解決了。

　　Tim：你也談到了增強(qiáng)人類的能力、經(jīng)驗(yàn)和智力。你說你想要專注于人類的天賦，比如創(chuàng)造力，同情心，情感，身體，洞察力等等，它們可以和人工智能混合在一起。

　　Satya：假設(shè)有大量的“人工智能”，那么稀缺的商品就是真正的智慧。然后你會(huì)說，“什么是真正的智慧？”

　　真正的智慧將會(huì)在最具人性的品質(zhì)中找到，那就是同情和憐憫之心，而那些將是最重要的東西。在我們真正找到如何將其嵌入某些機(jī)器之前，我們必須將其與人類結(jié)合起來。

　　我們必須思考，教育應(yīng)該對(duì)人類有什么樣的影響。有了人工智能，也許你真的不需要學(xué)習(xí)傅里葉變換。你也可以去做培養(yǎng)正念，你可能想要培養(yǎng)同情心。這就是我所說的一點(diǎn)。所有人都有一種強(qiáng)迫癥，每個(gè)人都需要接受教育，這是事實(shí)。但是，我們是不是過分強(qiáng)調(diào)了 STEM（Science，Technology，Engineering，Mathematics）？

　　Tim：在我的職業(yè)生涯中，有一個(gè)概念一直在發(fā)揮作用，Clayton Christenson（當(dāng)今最具影響力的商業(yè)理論家之一）曾說過一個(gè)叫做 “高利潤(rùn)守恒定律”（The Law of Conservation of Attractive Profits）的東西，即當(dāng)一個(gè)原本價(jià)值很高的東西商品化之后，緊挨著它的東西突然間就會(huì)變得值價(jià)起來。我第一次聽到這個(gè)是在 2004 年左右。他和我在同一個(gè)會(huì)議上進(jìn)行了交談。我在演講中談到了微軟是如何取代 IBM 的:PC 硬件成為了一種商品，軟件變得有價(jià)值。我的觀點(diǎn)是，開源將使軟件商品化，而其他東西將變得有價(jià)值。最終我意識(shí)到這個(gè)“其他東西”將是大數(shù)據(jù)。Clay 在談?wù)撍P(guān)于高利潤(rùn)守恒定律的想法，我意識(shí)到，“我們說的是同一件事。”這項(xiàng)定律也完全適用于人工智能。由于人類認(rèn)知的機(jī)械部分被人工智能商品化，人類獨(dú)有的部分將變得更有價(jià)值。

　　Satya：這是一個(gè)很好的說法。

　　Tim：所以在未來的經(jīng)濟(jì)中，有很多基于關(guān)懷以及創(chuàng)造力的機(jī)會(huì)。創(chuàng)意經(jīng)濟(jì)不只有藝術(shù)和文化。每當(dāng)產(chǎn)品成為一種商品的時(shí)候，我們就會(huì)找到新的方法，通過將它們與人類的創(chuàng)造力結(jié)合起來，使它們變得有價(jià)值。

　　Satya：事實(shí)上，這基本上是我們的一種癡迷，對(duì)吧？當(dāng)我在看《我的世界》這一代人時(shí)，或者你甚至可以說是 Snapchat 一代人……對(duì)我來說，這一代人最鼓舞人心的一點(diǎn)是，它是關(guān)于創(chuàng)造、故事的瘋狂的看法。在《我的世界》中，男孩和女孩都在創(chuàng)造一些不存在的世界，只有他們的想像力。

　　這就是我想要打造的一代。甚至在最新的 Windows 版本中。我們購買了每天有 1 億人使用的產(chǎn)品——Microsoft Paint，并說：“讓我們?yōu)?3D 創(chuàng)作做出絕對(duì)驚人的創(chuàng)意畫布”。因?yàn)?，在一個(gè)現(xiàn)實(shí)增強(qiáng)和混合現(xiàn)實(shí)的世界里，這就會(huì)成為現(xiàn)實(shí)。

　　Tim：你也談到了對(duì)大量數(shù)據(jù)進(jìn)行處理的能力，以及更快地進(jìn)行模式識(shí)別。在人工智能的發(fā)展過程中，有一種創(chuàng)造力被表達(dá)出來。你如何看待人工智能增強(qiáng)創(chuàng)意的過程？并提出創(chuàng)造性的方法來解決問題。

　　Satya：傳統(tǒng)的寫作工具不過是在拼寫、語法和短語糾正上面提供幫助，現(xiàn)在我們?cè)谄渲刑砑恿巳斯ぶ悄?，它們就成了完整的寫作輔助工具。我們正處于這樣的境地，你可以說，“我想寫得像 Faulkner（美國小說家，曾獲 1949 年諾貝爾文學(xué)獎(jiǎng)）一樣，”它會(huì)開始說，“這是你可能想做的事情。”

　　我沒有上過寫作學(xué)校，我只上過工程學(xué)院，但我夢(mèng)想成為一名偉大的作家，我需要這種人工智能來幫助我。

　　我之所以能做到這一點(diǎn)，是因?yàn)槲铱吹搅酥袊男”?，也就是我們的?duì)話機(jī)器人，包括人們對(duì)它的討論，以及在某一特定時(shí)段里的話題和問題的數(shù)量。更多的原因是人們需要交談。人們?cè)诒磉_(dá)他們最深刻的想法。我當(dāng)時(shí)說，“哇，這就是人工智能能夠產(chǎn)生移情作用的地方。”

　　Tim：我們之前也討論過人工智能成為第三個(gè)運(yùn)行時(shí)的想法。讓我們來討論一下這個(gè)問題以及它是如何發(fā)生的。

　　Satya：我們最后一次討論的時(shí)候，我是這么說的：“PC 或手機(jī)操作系統(tǒng)是第一個(gè)運(yùn)行時(shí)，第二個(gè)是瀏覽器和網(wǎng)絡(luò)，第三個(gè)是使用私人助手，它了解你，了解世界，了解環(huán)境，并在幫助你。”

　　然后我們說，“好吧，如果你同時(shí)進(jìn)行思考、感知，最終采取行動(dòng)，那么這三個(gè)運(yùn)行時(shí)就在那里。”這個(gè)助手本質(zhì)上體現(xiàn)了你思維的擴(kuò)展，你知覺的增強(qiáng)，語音是一個(gè)，視覺是另一個(gè)，并且可以直接采取行動(dòng)。這就是終極的運(yùn)行時(shí)，對(duì)吧？

　　這就是為什么在我的書中，我試著寫這三件事:

　　1）終極計(jì)算體驗(yàn)是什么？最終的計(jì)算體驗(yàn)是與計(jì)算結(jié)合在一起的真實(shí)世界。這是混合現(xiàn)實(shí)。

　　2）這將要求人工智能在感知、認(rèn)知和行動(dòng)方面取得突破。

　　3）然后我稍微有點(diǎn)離題了，說，“如果你想要?jiǎng)?chuàng)造那種計(jì)算能力，你必須打破馮諾依曼架構(gòu)和經(jīng)典計(jì)算的束縛。”

　　我們能聊聊量子計(jì)算機(jī)嗎？這就是我寫的第三件事。

　　Tim：我有點(diǎn)驚訝于量子計(jì)算在你的書中占了這么大的篇幅。

　　Satya：進(jìn)步是真實(shí)的——我的意思是，我們已經(jīng)深陷其中。但問題是，它會(huì)以多快的速度成為現(xiàn)實(shí)。我不知道。但它不再是“哇，有可能嗎？”之類的驚嘆。

　　Tim：你書里很重要的一句話是：“我們想要的不僅僅是智能機(jī)器，還有能夠理解的機(jī)器。”這是當(dāng)前人們對(duì)人工智能的一大擔(dān)憂，我們不會(huì)真正理解他們是如何得出結(jié)論的。當(dāng)然，這也適用于人類。因?yàn)槲覀儍A向于只關(guān)注人類思想的理性一面，所以我們沒有意識(shí)到，我們做了多少事情對(duì)我們來說，也是完全無法理解的。所以，這可以說是理性主義者的最后一聲吶喊。

　　Satya：當(dāng)然。但我有兩種方式可以規(guī)避風(fēng)險(xiǎn)。一是問責(zé)制。“當(dāng)你是一名設(shè)計(jì)師，你創(chuàng)造了人工智能，你需要負(fù)責(zé)任的時(shí)候，會(huì)發(fā)生什么？”Tay 的整個(gè)經(jīng)歷確實(shí)對(duì)我們的思考產(chǎn)生了很大的影響。事實(shí)上，這是一種瘋狂的做法，因?yàn)楹枚嗳硕坚槍?duì)它，并為它提供訓(xùn)練數(shù)據(jù)，這些數(shù)據(jù)可能會(huì)劫持算法。這是誰的責(zé)任？我敢說這是我們的。這是我們的責(zé)任。

　　Tim：嗯，很明顯這是 Facebook 和假新聞問題。我與安全研究人員進(jìn)行了非常有趣的對(duì)話，討論如何愚弄自動(dòng)駕駛汽車。你怎么能通過創(chuàng)造他們會(huì)在視覺領(lǐng)域誤解的東西來入侵他們呢？但現(xiàn)實(shí)社會(huì)中，將會(huì)有各種各樣的敵對(duì)干預(yù)。我們還需要設(shè)計(jì)更強(qiáng)大的人工智能。

　　Satya：當(dāng)人們說：“哦，人類，這些 DNN（深層神經(jīng)網(wǎng)絡(luò)）是神奇的。它們只是在做一些事情，我們甚至不知道“…我同意這句話背后的真相，但是關(guān)于層數(shù)和權(quán)重的選擇——在它們的學(xué)習(xí)過程中，人類是做出了很多決定的。我們不應(yīng)該這么快就放棄這些我們創(chuàng)造出來的算法，我們應(yīng)該對(duì)它們做出的決定負(fù)責(zé)。我想我會(huì)說，“好吧，在人工智能中，編程的道德標(biāo)準(zhǔn)是什么？”

　　注：訪談?dòng)袆h減。