中斷一年后，由Montreal.AI和紐約大學(xué)名譽(yù)教授Gary Marcus組織的年度人工智能辯論于上周五晚上回歸，與2020年一樣再次以線上會(huì)議形式召開(kāi)。

今年的辯論——AI辯論3：AGI 辯論——重點(diǎn)關(guān)注通用人工智能的概念，即能夠集成無(wú)數(shù)接近人類水平的推理能力的機(jī)器。

視頻鏈接：https://www.youtube.com/watch?v=JGiLz_Jx9uI&t=7s

本次討論共計(jì)三個(gè)半小時(shí)，圍繞與人工智能相關(guān)的五個(gè)主題展開(kāi)： 認(rèn)知與神經(jīng)科學(xué)、常識(shí)、架構(gòu)、倫理與道德以及政策和貢獻(xiàn)。

除了眾多計(jì)算機(jī)科學(xué)領(lǐng)域的大牛外，還有計(jì)算神經(jīng)科學(xué)家Konrad Kording等16位專家參與其中。??

本文簡(jiǎn)單總結(jié)了其中5位大佬的觀點(diǎn)，感興趣的讀者可以通過(guò)上面的鏈接觀看完整視頻。

主持人：馬庫(kù)斯

作為著名的批評(píng)家，馬庫(kù)斯引用了自己在《紐約客》上的文章《「深度學(xué)習(xí)」是人工智能發(fā)展的一場(chǎng)革命嗎？》，再次對(duì)AI的發(fā)展?jié)娏伺枥渌?/span>

馬庫(kù)斯表示，與李飛飛團(tuán)隊(duì)成功發(fā)布ImageNet后人們對(duì)人工智能長(zhǎng)達(dá)十年的熱情浪潮相反，制造無(wú)所不能的機(jī)器的「愿望」并沒(méi)有實(shí)現(xiàn)。

DeepMind神經(jīng)科學(xué)家Dileep George

來(lái)自谷歌DeepMind的神經(jīng)科學(xué)家Dileep George曾經(jīng)提出過(guò)一個(gè)名為「先天性」的概念。

簡(jiǎn)單來(lái)說(shuō)，就是某些「內(nèi)建」在人類思想中的想法。

那么對(duì)于人工智能來(lái)說(shuō)，我們應(yīng)該更關(guān)注先天性嗎？

對(duì)此，George表示，任何一種從初始狀態(tài)到某種穩(wěn)定狀態(tài)的增長(zhǎng)和發(fā)展都涉及三個(gè)因素。

一是初始狀態(tài)下的內(nèi)部結(jié)構(gòu)，二是輸入的數(shù)據(jù)，三是通用的自然法則。

「事實(shí)證明，先天結(jié)構(gòu)在我們發(fā)現(xiàn)的每個(gè)領(lǐng)域都發(fā)揮著非凡的作用?！?/span>

對(duì)于那些被認(rèn)為是學(xué)習(xí)的典型例子，比如習(xí)得語(yǔ)言，一旦你開(kāi)始拆解，就會(huì)發(fā)現(xiàn)數(shù)據(jù)幾乎并不會(huì)對(duì)其產(chǎn)生影響。

自從人類出現(xiàn)以來(lái)，語(yǔ)言就沒(méi)有改變過(guò)，任何文化中的任何孩子都能掌握語(yǔ)言就證明了這一點(diǎn)。

George認(rèn)為，語(yǔ)言將成為人工智能的核心，從而讓我們有機(jī)會(huì)搞清楚，到底是什么讓人類成為一個(gè)如此獨(dú)特的物種。

華盛頓大學(xué)教授Yejin Choi

華盛頓大學(xué)計(jì)算機(jī)科學(xué)教授Yejin Choi預(yù)測(cè)道，AI在未來(lái)幾年內(nèi)的表現(xiàn)，將越來(lái)越驚人。

但是，由于我們并不知道網(wǎng)絡(luò)的深度，它們將繼續(xù)在對(duì)抗性和邊角案例上犯錯(cuò)。

「對(duì)于機(jī)器來(lái)說(shuō)語(yǔ)言和智力的暗物質(zhì)，可能就是常識(shí)?！?/span>

當(dāng)然，這里所說(shuō)的暗物質(zhì)，是對(duì)人類來(lái)說(shuō)容易但對(duì)機(jī)器來(lái)說(shuō)很難的東西。

LSTM之父Jürgen Schmidhuber

馬庫(kù)斯表示，我們現(xiàn)在可以從大型語(yǔ)言模型中獲取大量的知識(shí)，但實(shí)際上這種范式需要被轉(zhuǎn)變。因?yàn)檎Z(yǔ)言模型實(shí)際上被「剝奪」了多種類型的輸入。

瑞士人工智能實(shí)驗(yàn)室IDSIA主任、LSTM之父Jürgen Schmidhuber回應(yīng)稱，「我們今天討論的大部分內(nèi)容，至少在原則上，已經(jīng)在很多年前通過(guò)『通用神經(jīng)網(wǎng)絡(luò)』得到解決?！?這樣的系統(tǒng)「還不如人類」。

Schmidhuber表示，隨著計(jì)算能力每隔幾年變得更便宜，「舊理論」又回來(lái)了?！肝覀兛梢杂眠@些舊算法做很多當(dāng)時(shí)我們做不到的事情。」

接著，IBM研究員Francesca Rossi向Schmidhuber提出了一個(gè)問(wèn)題：「我們?cè)趺磿?huì)看到仍然沒(méi)有我們想要的功能的系統(tǒng)？你怎么看？那些定義的技術(shù)仍然沒(méi)有進(jìn)入當(dāng)前的系統(tǒng)？」

對(duì)此，Schmidhuber認(rèn)為，目前主要是計(jì)算成本問(wèn)題：

循環(huán)網(wǎng)絡(luò)可以運(yùn)行任意算法，其中最美妙的方面之一是它還可以學(xué)習(xí)學(xué)習(xí)算法。最大的問(wèn)題是它可以學(xué)習(xí)哪些算法？我們可能需要更好的算法。改進(jìn)學(xué)習(xí)算法的選項(xiàng)。

第一個(gè)此類系統(tǒng)出現(xiàn)在1992年。我在1992年寫了第一篇論文。那時(shí)候我們對(duì)此幾乎無(wú)能為力。今天我們可以擁有數(shù)百萬(wàn)和數(shù)十億個(gè)權(quán)重。

最近與我的學(xué)生進(jìn)行的合作表明，這些舊概念在這里和那里進(jìn)行了一些改進(jìn)，突然間效果非常好，你可以學(xué)習(xí)比反向傳播更好的新學(xué)習(xí)算法。

英屬哥倫比亞大學(xué)副教授Jeff Clune

英屬哥倫比亞大學(xué)計(jì)算機(jī)科學(xué)副教授Jeff Clune討論的主題是「AI生成算法：通往AGI的最快路徑」。

Clune表示，今天人工智能走的是一條「人工道路」，這也就意味著各種學(xué)習(xí)規(guī)則和目標(biāo)函數(shù)等等都需要靠人來(lái)手動(dòng)完成。

對(duì)此他認(rèn)為，在今后的實(shí)踐中，人工設(shè)計(jì)的方法終究是要讓位于自動(dòng)生成的。

隨后，Clune又提出了推動(dòng)AI發(fā)展的「三大支柱」：元學(xué)習(xí)架構(gòu)、元學(xué)習(xí)算法，以及自動(dòng)生成有效的學(xué)習(xí)環(huán)境和數(shù)據(jù)。

在此，Clune建議增加一個(gè)「第四支柱」，即「利用人類數(shù)據(jù)」。比如，在Minecraft環(huán)境里運(yùn)行的模型，就可以通過(guò)學(xué)習(xí)人類玩游戲的視頻獲得「巨大的提升」。

最后，Clune預(yù)測(cè)，我們有30%的可能性在2030年實(shí)現(xiàn)AGI，而且還不需要新的范式。

值得注意的是，此處AGI被定義為「能夠完成50%以上的有經(jīng)濟(jì)價(jià)值的人類工作」。

總結(jié)一下

在討論的最后，馬庫(kù)斯讓所有參與者在30秒內(nèi)回答一個(gè)問(wèn)題：「如果你能給學(xué)生一條建議，例如，現(xiàn)在我們最需要研究哪個(gè)人工智能的問(wèn)題，或者如何為人工智能日益成為主流和中心的世界做好準(zhǔn)備，建議是什么？」

Choi稱：「我們必須處理AI與人類價(jià)值觀保持一致的問(wèn)題，尤其是要強(qiáng)調(diào)多元化；我認(rèn)為這是我們面臨的真正關(guān)鍵挑戰(zhàn)之一，更廣泛地應(yīng)對(duì)諸如魯棒性、泛化和可解釋性等挑戰(zhàn)?！?/span>

George從研究方向角度給出建議：「先確定好想從事規(guī)?；芯窟€是基礎(chǔ)研究，因?yàn)樗鼈冇胁煌能壽E?！?/span>

Clune：「AGI即將到來(lái)。所以，對(duì)于開(kāi)發(fā)AI的研究人員，我鼓勵(lì)你們從事基于工程、算法、元學(xué)習(xí)、端到端學(xué)習(xí)等技術(shù)，因?yàn)檫@些最有可能被吸收進(jìn)入我們正在創(chuàng)建的 AGI。對(duì)于非AI研究人員來(lái)說(shuō)，最重要的可能是治理問(wèn)題。例如，開(kāi)發(fā)AGI時(shí)的規(guī)則是什么？規(guī)則由誰(shuí)來(lái)決定？我們又該如何讓全世界的研究人員都遵循這套規(guī)則？」

馬庫(kù)斯在晚會(huì)結(jié)束時(shí)回憶起他在上一場(chǎng)辯論中的發(fā)言：「培養(yǎng)人工智能需要一村子的人?！?/span>

「我認(rèn)為現(xiàn)在更是如此，」他說(shuō)?！窤I以前是個(gè)孩子，現(xiàn)在有點(diǎn)像一個(gè)鬧騰的少年，還沒(méi)有完全具備成熟的判斷力?！?/span>

他總結(jié)說(shuō)：「這一刻既令人興奮又危險(xiǎn)?！?/span>