[[211063]]

當前，深度學習扛起了人工智能的大旗，讓我們得以一窺智能機器在將來的能耐。但深度學習有個不小的問題：沒人知道它是如何運作的。

我們并不是對深度學習一無所知。作為當今神經(jīng)網(wǎng)絡的核心，機器學習算法已經(jīng)發(fā)展了幾十年，它定義完善，文獻豐富。在銀行和保險業(yè)等受到嚴格監(jiān)管的行業(yè)，這些算法已經(jīng)普及多年，不曾引發(fā)重大問題。

“機器學習基本就是線性數(shù)學，很好解釋，”數(shù)據(jù)公司Teradata***技術官斯蒂芬·布羅布斯特（Stephen Brobst）在Teradata合作伙伴大會的一場小組討論上說。“然而，一旦涉及到多層神經(jīng)網(wǎng)絡，問題就成了非線性數(shù)學。不同變量之間的關系就糾纏不清了。”

神經(jīng)網(wǎng)絡的明晰性問題植根于它的基本架構，這種架構的復雜性是與生俱來的。通過將很多隱藏層逐層堆疊起來，我們其實創(chuàng)造出了幾乎***量的路徑，供數(shù)據(jù)在網(wǎng)絡中訓練時經(jīng)過。繼而，通過讓數(shù)據(jù)一遍又一遍地經(jīng)過這些路徑，將每次循環(huán)中變量的權重交由機器自己決定，我們發(fā)現(xiàn)可以制造出更好的機器，提供比傳統(tǒng)機器學習方法更加優(yōu)質(zhì)的答案。

這是對人腦的一種粗糙演繹——這里要強調(diào)的是“粗糙”，因為我們?nèi)晕闯浞终莆杖四X的運作原理——但我們知道人腦能起作用，也知道神經(jīng)網(wǎng)絡能起作用，雖然我們對它們的運作原理不甚了了。從某種層面上講，神經(jīng)網(wǎng)絡的不透明性不是什么缺陷，而是一種特色。

復雜性正是深度學習起效的秘方。

這也是一個不小的研究領域。金融服務等行業(yè)都對神經(jīng)網(wǎng)絡垂涎三尺，但目前都被禁止使用，因為他們無法向監(jiān)管機構充分解釋神經(jīng)網(wǎng)絡的運作原理。“在將機器學習投入風險評估等領域的過程中，這是***的一個障礙，這些領域受到嚴格的監(jiān)管，”布羅布斯特說。“若只是欺詐檢測和推薦引擎，你還可以僥幸過關。但監(jiān)管嚴格的領域就不行了。”

這足以使DataRobot公司在這些領域的客戶回避深度學習框架，如Tensorflow等，盡管DataRobot會幫助實現(xiàn)其自動化使用。“有時候，這些模型會因無法驗證而被拒之門外，”DataRobot***運營官克里斯·德瓦尼（Chris Devaney）說。“你不太容易為它辯護。即便不是黑箱，它也表現(xiàn)得像個黑箱，因為你無法記錄神經(jīng)網(wǎng)絡算法深處發(fā)生的一切。”

TensorFlow可以針對大規(guī)模數(shù)據(jù)集作出快速預測，但DataRobot的顧客不愿觸及。目前，DataRobot正在與Immuta合作，旨在尋找并削減機器學習中的偏差，這方面的工作終將有所成效，但任重道遠。“對于一些受到嚴格監(jiān)管的客戶，如果必須在政府機構面前捍衛(wèi)這種模型，他們就會放棄考慮，”他說。

研究公司ForresterResearch副總裁、***分析師麥克·格列蒂里（Mike Gualtieri）說，有些公司一邊使用深度學習，一邊還抱有某種程度的懷疑。“連使用這些模型的公司都不信任它們，”他在近期的合作伙伴會議上說。

他說，開始使用深度學習的公司有辦法對付這種不確定性，包括加入人類干預，用規(guī)則加以限定，他說。

“模型可以作出預測——這個預測始終都是一個概率——但如果預測不準呢？”他說。“你可以用規(guī)則加以限定。比如告訴它‘這是欺詐’，模型可能會說：‘這不是欺詐’。你也可以設定有利于人類的規(guī)則，比如說，‘我才不管模型怎么說——在我看來，這就是欺詐。”

在增加神經(jīng)網(wǎng)絡的透明度方面，人們已經(jīng)做了一些工作。其中之一被稱為“局部可理解的與模型無關的解釋技術”（Model-Agnostic Explanations；下簡稱LIME）框架，由華盛頓大學計算機科學教授馬可·圖里奧·里貝羅（Marco Tulio Ribeiro）和他的同事薩米爾·辛格（Sameer Singh）及卡洛斯·格斯特林（Carlos Guestrin）共同提出。

LIME框架的設計旨在提高可理解性，使各類不透明算法生成的預測更易于解釋。這包括傳統(tǒng)的機器學習技術，比如隨機森林與支持向量機（SVM），以及當今日益流行的神經(jīng)網(wǎng)絡技術。

作為GitHub上的開源軟件，LIME框架有望逐層剝開神經(jīng)網(wǎng)絡的外衣。“LIME是一種高效的工具，賦予機器學習從業(yè)人員以信任感，可以加入到他們的工具組合中，”里貝羅、辛格和格斯特林教授在2016年發(fā)表于電腦資訊網(wǎng)站奧萊利（O’Reilly）的文章中寫道。

然而，在得到業(yè)界的信賴之前，LIME還有很多工作要做。Teradata的布羅布斯特說。“以上提到的LIME框架，我們還沒有完成呢，”他說，“這是一個活躍的研究領域……但我稱之為‘畢業(yè)生代碼’。其用例非常有限。專門用例需要專門定制。”