LSTM之父預測人工智能奇點或在2030年到來|GMIS2017 上的AI大佬都說了啥
原創如今,要問科技界最重要的事是什么,幾乎所有人都會回答——人工智能。是的,人工智能正在為我們帶來一個黃金時代。這個時代的標志不僅僅是一個算法的改進,一種服務的出現,或是一場比賽的勝利。關注技術的演進,最終目標在于探索它們將如何推動產業的變革,作為新的引擎提高生產力,改變我們的生活。
5 月 27 日,由機器之心主辦的為期兩天的GMIS 2017 大會在北京拉開帷幕。據悉,眾多來自瑞士、美國、加拿大以及國內的眾多人工智能學術大咖、業界大牛都會亮相GMIS的舞臺。下面讓我們一起了解,在備受矚目的GMIS首日論壇上,AI大佬們分享了哪些精彩的觀點。
Jürgen Sc Jürgen Schmidhuber:人工智能奇點或將在2030年到來
Jürgen Sc Jürgen Schmidhuber 人工智能之父
作為GMIS2017開場嘉賓,Jürgen Sc Jürgen Schmidhuber對20世紀的人工智能進行了簡要的回顧,并對未來做出自己的展望。
近幾年,由Jürgen Schmidhuber提出的LSTM推動RNN在語音識別、語言建模、翻譯、圖片描述、聊天機器人等科技領域的廣泛應用,并在谷歌、蘋果、微軟、百度等科技巨頭的許多關鍵業務中得到使用。
作為RNN的一種特別類型,LSTM通過刻意的設計,使長期依賴信息的學習更加有效。“長短時記憶是跟人的大腦相關的,”Jürgen 說道,“在我們的大腦皮層中有 100 多億的神經元。它們就像小的處理器,有的是處理輸入的,有的是用于圖像捕捉的,你還有疼痛神經來捕捉疼痛,還有一些肌肉的神經來控制你的肌肉。另外還有一些用于思考的神經元,他們之間會有彼此的交流。在執行任務時,神經元會影響其他與之相連的神經元,這些連接的強度會隨著隨著人們的學習會改變,我們稱之為持續連接,這也是長短期記憶網絡獲得啟發的地方。”
在 LSTM 的研究之后,Jürgen 的團隊繼續朝著自己的通用人工智能目標前進。他們在 2015 年研發出了具有好奇心的自我學習人形機器人。這種機器人可以通過自己的機械臂與世界接觸感受并學習重力等概念。這距離自我學習人工智能的目標又更近了一步。
如今,Jürgen正在帶領他的人工智能公司 Nnaisense通過新的元學習和機器好奇心創造更多可能性,優化程序搜索和大規模強化學習神經網絡的效率,帶來新的突破,改變一切。
Jürgen 大膽預言,在未來幾年人類將創造出具有靈長類動物智能的人工智能系統。而人工智能終將代替人類,展開殖民宇宙的旅途。“宇宙歷史中重大事件之間的間隔時間似乎正在以指數級的速度縮短——每個大事件到來的時間是前一個大事件的四分之一。如果仔細研究了這個模式,看起來下一個事件將要出現于 2030 年。”Jürgen這樣預測奇點過后的世界。
鄧力:無監督學習將成為未來趨勢
鄧力 Citadel 首席人工智能官、前微軟AI首席科學家
監督式學習采用一對對映射的輸入輸出方式來訓練整個系統,一對輸入輸出就像一個老師,由老師教給機器如何進行識別或預測。這種范式在語言識別、機器翻譯等方面的應用都取得了很大成功。但另一方面,由于我們需要給系統提供海量的輸入輸出成對數據,這種訓練方法具有非常高的成本。
Citadel 首席人工智能官、前微軟AI首席科學家鄧力為大家介紹了無監督學習的強大之處,表明無監督式學習是深度學習當中的一種范式,我們不需要給系統提供非常具體的信號,就能夠讓機器在無監督的狀態下成功學到需要學習的東西。
在沒有一種辦法在為機器提供學習材料的同時,又不需要人類提供那些成本高昂的輸入輸出映射呢?
對此,鄧力的團隊提出了假設并進行實驗:“我們用語言來作為機器學習的指導。自然語言的數據可以是一個很困難的東西,但是我們可以單獨拿出來使用,不把這個自然語言和任何的圖象進行配對。這樣我們就極大地降低了培訓的成本、訓練機器的成本。”
演講中,鄧力提出了采用SPDG(Stochastic primal-dual gradient method,隨機原始-對偶梯度方法)在沒有標注的情況下學習如何做預測,來將形式化的原始問題轉化為極小極大對偶問題,并采用隨機梯度下降來求得最優參數。
鄧力認為,無監督式學習將成為未來的主流趨勢。“無監督學習比監督學習更有趣,但是也更困難。我們可以使用更多的一些數據來進行學習,比如說像我剛才所說的 SPDG 這樣一個線性的方式,該方法不需要進行標記,但它可以直接進行學習來聽聲音的識別或者說做一些翻譯。我們也需要很多的發明來使無監督學習更加地有效。”
馬維英:人工智能重新定義信息平臺
馬維英 今日頭條副總裁、人工智能實驗室負責人
人工智能時代的到來,使軟件產業吞噬全世界的同時,其自身也在被顛覆。今日頭條副總裁、人工智能實驗室負責人馬維英自今年2月加入今日頭條以來,深刻感受到在AI的浪潮下,一個新時代的信息平臺正在被定義,也與大家分享了他所看到的領域的最新發展。
馬維英表示,過去索引擎對用戶的理解可能只是通過幾個密切搜索的關鍵詞以及瀏覽過的網頁,將網站里的結構信息重建后做相關排序。但排序算法不具有針對每個用戶的個性化特征,所以每個人看到的搜索結果都是一樣的。
而今天,頭條會根據用戶瀏覽內容的的偏好,無論是新聞、圖片、視頻還是評論,通過深度學習的方式建立高維向量表,機器知道他們在什么時候想看什么,這些信息幫助他們真正理解用戶。人工智能清楚的定義每一個輸入跟輸出,每個信息流中間都可以做遷移學習,一個用戶的興趣愛好可能也能夠幫助學習另外一個用戶的興趣愛好,從而產生正向循環。
最后馬維英說到,“ 今天我們進到一個人工智能的時代,我們可以利用這樣一個新的技術,來讓每一個人都能夠有一個無所不在的機器智能,幫助他們能夠來發現、使用、交流跟創作信息。”
在GMIS第一天的會場上,除上面提到的三位大佬,騰訊 AI Lab 副主任俞棟、英特爾 AIPG 數據科學部主任、GE Transportation Digital Solutions CTO Wesly Mukai 等知名人工智能專家也分別在主題演講、圓桌論壇等互動形式下,從科學家、企業家、技術專家的視角,論述精彩觀點,解讀人工智能的未來發展。
據悉,全球機器智能峰會( GMIS 2017 ),是全球人工智能產業信息服務平臺機器之心舉辦的首屆大會,來自美國、歐洲、加拿大及國內的眾多頂級專家參會演講。本次大會共計 47 位嘉賓、5 個Session、32 場演講、4 場圓桌論壇、1 場人機大戰,兼顧學界與產業、科技巨頭與創業公司,以專業化、全球化的視角為人工智能從業者和愛好者奉上一場機器智能盛宴。