相關(guān)不等于因果，深度學習讓AI問出“十萬個為什么”
大數(shù)據(jù)文摘出品
來源：searchenterpriseai
編譯：張大筆茹
生活經(jīng)驗告訴我們，相關(guān)關(guān)系并不能直接推導出因果關(guān)系，但不管是日常生活還是學術(shù)研究，對于因果關(guān)系的解釋要遠比相關(guān)關(guān)系重要得多。很多時候，我們也會對事件之間的因果關(guān)系捉襟見肘。
如果，把這個過程交給AI來處理會怎樣呢?
AI可以利用深度學習技術(shù)來構(gòu)建相關(guān)關(guān)系模型。但是，用于確定事情發(fā)生原因的因果深度學習目前仍處于起步階段，而且它的自動化比普通神經(jīng)網(wǎng)絡(luò)也困難許多。
大部分AI都是通過分析大量數(shù)據(jù)尋找其中隱藏的規(guī)律。全球IT服務(wù)公司L&T Infotech的執(zhí)行副總裁兼首席數(shù)據(jù)分析官蘇門德拉·莫漢蒂(Soumendra Mohanty)表示，“顯然，這能使我們能了解到‘是什么’，但卻很少能理解‘為什么’”。
這個區(qū)別的影響是很大的。建造人工智能的最終目的是訓練AI回答為什么這個因素會影響那個因素，這就是許多研究人員現(xiàn)在將注意力轉(zhuǎn)向這兒的原因。
加州大學洛杉磯分校的教授朱迪亞·珀爾(Judea Pearl)的關(guān)于實施貝葉斯網(wǎng)絡(luò)統(tǒng)計分析的研究取得重要成績，他在開發(fā)一個可以在可計算框架中區(qū)分事件原因的、用于繪制因果關(guān)系圖的框架。
分析因果關(guān)系的最大挑戰(zhàn)之一是通過專家判斷一件事情的原因，此為主觀意見，然后再通過各種分析技術(shù)將其分開。這與統(tǒng)計機器學習所追求的“客觀”形成鮮明對比。長遠來看，因果關(guān)系研究可以幫助我們更好地理解世界;短期內(nèi)，因果分析也可以更好地解釋機器學習模型的結(jié)果。
不再期待AI奇跡般地預測未來
Information Builders營銷副總裁杰克·弗賴瓦爾德(Jake Freivald)說：“商業(yè)精英通常不相信黑盒子技術(shù)，但他們卻對人工智能技術(shù)有著異乎尋常的期待。”他表示，企業(yè)家意識到將業(yè)務(wù)流程交給人工智能算法可能就像讓他們兩歲的孩子駕駛自己的汽車一樣冒險。
問題在于，分析型AI主要用于查找數(shù)據(jù)集中的相關(guān)性，而相關(guān)性僅僅能暗示因果關(guān)系，無法準確解釋事情為什么發(fā)生。相關(guān)性只能告訴你接下來可能會發(fā)生什么。
“我們越能在模型中梳理出因果關(guān)系，就越能在現(xiàn)實基礎(chǔ)上準確評估事情發(fā)生的原因以及接下來會發(fā)生什么，”弗雷瓦德說，“只有到那時，將業(yè)務(wù)交給人工智能就可以很好地完成工作。否則，結(jié)果可能是災難性的。”
不再僅僅是擬合曲線
擬合曲線在回答諸如“下一個最佳報價是什么?”、“這會是詐騙嗎?” 或者“它是貓嗎?”這類問題上表現(xiàn)出色。
“但現(xiàn)實世界中，很多問題是無法僅通過曲線擬合度解決的，”莫漢蒂說。如果幾個因素都可以預測產(chǎn)品偏好，那企業(yè)應該選擇哪些因素以及如何確定其重要性順序呢?簡單地將不同變量按強度排列與獨立選擇一些因素并單獨評估其對預測結(jié)果的貢獻程度的結(jié)果是不同的。
“我們可以觀察相關(guān)性，但并不能證明甚至解釋因果關(guān)系，”莫漢蒂說。因果關(guān)系回答的是“我應該采取什么行動才能實現(xiàn)改變?”或“如果我改變模型的一些基本假設(shè)會怎樣?”
因果深度學習技術(shù)(又稱結(jié)構(gòu)方程模型SEM)已存在多年了。然而，這些技術(shù)或多或少地局限于學術(shù)研究，目前還沒有應用到商業(yè)領(lǐng)域。
蒙特卡羅模擬，馬爾可夫鏈分析，樸素貝葉斯和隨機建模是當今常用的一些技術(shù)，但它們幾乎都不能分析因果關(guān)系。還有一些開源軟件包，如DAGitty(一個基于瀏覽器的環(huán)境，用于創(chuàng)建，編輯和分析因果模型以及Microsoft的DoWhy庫的軟件包)也用于因果推理。但這些仍在發(fā)展中。
自動庫存管理系統(tǒng)的制造商Pinsa Systems的首席執(zhí)行官兼總裁理查德·施瓦茨(Richard Schwartz)表示，在整體上看，AI應用程序會根據(jù)其觀察到的模式執(zhí)行一系列操作。深度學習使用統(tǒng)計技術(shù)來發(fā)現(xiàn)規(guī)律。在AI中嵌入因果理解的不同方法需要開發(fā)基于規(guī)則的系統(tǒng)。這種系統(tǒng)可以從其他類型的客觀事實中得出結(jié)論，例如“右轉(zhuǎn)三次等同于左轉(zhuǎn)”。
規(guī)則可以是因果關(guān)系或認知關(guān)系，它們有助于根據(jù)輸入對結(jié)果進行建模，但它們也有缺點：“因果規(guī)則很難界定的，明確定義往往更難。”
潛在的解決方案是兩種方法的組合，例如，為神經(jīng)網(wǎng)絡(luò)創(chuàng)建可解釋性模塊。這種系統(tǒng)的因果深度學習模式是以更加艱苦的方式構(gòu)建如何達成結(jié)論的認知模型。
另外一種比較好的因果AI技術(shù)是通過強化學習領(lǐng)域的“從示范中學習”(Learning from demonstration)，這種方法首先輸入一些計算機完成某些事情的例子，然后讓計算機適應該技術(shù)，自己解決問題。
彭薩(Pensa)在其庫存管理工具中使用兩種類型的人工智能來解決與商店貨架上重新進貨庫存相關(guān)的問題。主要產(chǎn)品使用神經(jīng)網(wǎng)絡(luò)，用以解決攝像機的計算機視覺輸入識別貨架上的物品(例如，亨氏牌番茄醬)以及貨架的擺放方式(例如，亨氏牌產(chǎn)品通常在亨特牌產(chǎn)品的旁邊)等問題。
使用因果模型生成自動提示，例如“亨氏番茄醬快要缺貨”，或者“亨氏番茄醬已經(jīng)完全缺貨”。為了得出這個結(jié)論，系統(tǒng)不僅需要識別產(chǎn)品，還需要理解貨架上物品的相關(guān)庫存控制規(guī)則以及重新進貨的意義。
人類通常非常擅長得到認知型結(jié)論，例如制定經(jīng)驗法則，從而得出結(jié)論。“這是人工智能的瓶頸，”施瓦茨說。
無需模型的因果關(guān)系
德克薩斯大學奧斯汀分校的人工智能教授斯科特·尼克姆(Scott Niekum)說，強化學習本質(zhì)上是因果關(guān)系，因為智能體會嘗試不同的方式并通過反復試驗來了解其是如何得到結(jié)果的。這種類型的學習被稱為“非模型學習”，很受歡迎，因為它可以學習正確的或有效的行為而無需學習世界是如何運作的。
換句話說，智能體學習行動與后果之間的因果關(guān)系，而不是行動如何直接影響世界的。例如，它可以在不了解水和火之間的關(guān)系的情況下翻轉(zhuǎn)火上方的水桶將水倒出用來滅火。
非模型學習是一把雙刃劍。如果沒有模型，智能體就必須從頭學習如何在問題發(fā)生變化時解決問題。
在前面的例子中，如果給智能體一個水管而不是一桶水，它就不知道怎么辦了而需要從頭開始學習，因為它只學習了“翻桶”行動與撲滅火災，并沒有學習水和火之間的因果關(guān)系。
尼克姆說：“由于這些原因，人們越來越關(guān)注基于模型的強化學習，盡管它也有缺點，例如，如何衡量模型的置信度，模型錯誤時該怎么做，如何管理大范圍長線計劃的不確定性?”
解釋機器學習模型
可解釋性的核心是這樣的：解釋必須能夠識別和量化所有對深度學習模型的行為負有因果關(guān)系的因素。在這方面，因果關(guān)系是指模型函數(shù)本身，而不是模型正在解決的任務(wù)，F(xiàn)iddler Labs(一家可解釋的AI引擎公司)的數(shù)據(jù)科學負責人安庫爾·泰利(Ankur Taly)表示。
由于模型的復雜性，完整地解釋深度學習模型很難。難以分析推斷模型函數(shù)中每個特征的重要性，早期的因果深度學習方法是通過觀察模型對數(shù)據(jù)集的預測，在其中擬合一個更簡單、可解釋的模型來解釋它。
“不幸的是，這些方法容易受到從觀察數(shù)據(jù)推斷因果關(guān)系的影響，”泰利說，人們無法將與模型預測真正相關(guān)的特征與那些與之相關(guān)的特征區(qū)分開來。
最近出現(xiàn)了一套基于合作博弈理論的Shapley值的不同算法。這些算法使用反事實輸入探測模型。然而，F(xiàn)iddlerLabs的研究發(fā)現(xiàn)，如果數(shù)據(jù)集不是正態(tài)分布的，這些算法大多數(shù)情況下都會導致偏差。泰利說他們正在研究將解釋模型與特定數(shù)據(jù)集分離的方法。
這種研究有助于識別模型學會依賴的虛假相關(guān)性。例如，黑客最近可以通過添加某些類型的數(shù)據(jù)來偽造Cylance反惡意軟件引擎。減輕這種風險的第一步是確定顯著影響模型預測的因果特征。
“然后人們可以通過研究這些特征來檢查它們是否也是這項任務(wù)的原因，或者它們是否被對手利用了，就像Cylance一樣，”泰利說。
不可盲目迷信AI
據(jù)Information Builders的弗賴瓦爾德說，目前人類可以比AI更好地通過深度學習建立因果關(guān)系。這涉及到限制數(shù)據(jù)集，剔除可能導致偏差的字段，并塑造學習過程。人類關(guān)注因果關(guān)系，讓算法完成學習過程。這是一個反饋循環(huán)，但人是必不可少的。
如果因果關(guān)系可以由人工智能決定，那么人工智能可以重塑學習過程而不再需要人類。理論上，AI可以使用任意數(shù)據(jù)集來確定因果關(guān)系，并以人類完全沒意料到的方式進行學習。
目前還是存在很多未知的。人類可以用自己廣泛的智慧解決問題，而機器尚無法做到。最近的嘗試還產(chǎn)生了不少令人頭疼的并發(fā)癥。“我們希望人工智能越萬能，需要的數(shù)據(jù)就越多，誤報的可能性也就越大——這是機器的局限，我們不能盲目的迷信機器，”弗賴瓦爾德說。
相關(guān)報道：
https://searchenterpriseai.techtarget.com/feature/Causal-deep-learning-teaches-AI-to-ask-why
【本文是51CTO專欄機構(gòu)大數(shù)據(jù)文摘的原創(chuàng)譯文，微信公眾號“大數(shù)據(jù)文摘（ id: BigDataDigest）”】
