[[419993]]

文/陳杰

人工智能技術(shù)一直是當(dāng)前科技領(lǐng)域的熱點(diǎn)，不論是從圖像分析到自然語(yǔ)言理解，再到科學(xué)領(lǐng)域。得益于神經(jīng)網(wǎng)絡(luò)的“深度”變革，以大量數(shù)據(jù)和算法加持的算力去處理復(fù)雜的數(shù)據(jù)已成為日常，而這在過(guò)去是無(wú)法想象的，背后則是人工智能技術(shù)突飛猛進(jìn)發(fā)展的必然結(jié)果。

在刷臉、自動(dòng)駕駛、智慧家庭等各種人工智能應(yīng)用場(chǎng)景紛紛落地日常生活的當(dāng)下，從消費(fèi)者的視角來(lái)看，人工智能已經(jīng)讓生活變得更美好了，但這一技術(shù)是否已經(jīng)足夠強(qiáng)大了呢？學(xué)術(shù)界的答案卻恰恰相反——當(dāng)前的人工智能技術(shù)在安全可靠方面其實(shí)完全不夠看！

人工智能并沒(méi)有那么可靠

在日前召開(kāi)的首屆“青年科學(xué)家50²論壇”上，清華大學(xué)教授朱軍對(duì)正在高速發(fā)展的人工智能產(chǎn)界潑出一盆冷水：今天的人工智能遠(yuǎn)遠(yuǎn)算不上完美。首先是深度學(xué)習(xí)仍然面臨著魯棒性差的問(wèn)題，比如很多手機(jī)都會(huì)配備人臉識(shí)別方案，但通過(guò)一副打印了特殊紋理圖案的眼鏡，就能輕松解鎖很多手機(jī)；再說(shuō)到安全需求更高的自動(dòng)駕駛系統(tǒng)，黑客們只需要在標(biāo)識(shí)牌上加上特定圖案，就能讓系統(tǒng)將限速標(biāo)識(shí)識(shí)別為停止標(biāo)識(shí)，導(dǎo)致致命事故的發(fā)生……

這些看似非常符合人們直覺(jué)或者是常見(jiàn)的問(wèn)題，放到很智能的系統(tǒng)面前，卻會(huì)出現(xiàn)錯(cuò)誤的結(jié)果，背后的原因是什么？

“這里面一個(gè)關(guān)鍵的問(wèn)題，是現(xiàn)在的人工智能技術(shù)‘不知道自己不知道’。”朱軍表示，人類都能夠遵循“知之為知之，不知為不知，是知

也”的道理，但當(dāng)前的人工智能主流技術(shù)，絕大部分都欠缺這種能力。比如在一個(gè)很多貓和狗照片的比對(duì)系統(tǒng)中放一張人工智能還不知道的蘋(píng)果照片，讓人工智能來(lái)分析這是什么，結(jié)果答案要么是貓，要么是狗，而這只取決于這張?zhí)O果照片和貓、狗哪個(gè)更相似一些。

不用懷疑人工智能的學(xué)習(xí)能力，但確實(shí)缺乏“知道自己不知道”的能力。學(xué)術(shù)界認(rèn)為，一個(gè)人工智能系統(tǒng)如果知道自己“不知道”，其實(shí)代表著其有更高的智能水平。“具體來(lái)說(shuō)，在現(xiàn)實(shí)世界里存在兩種不確定性會(huì)影響到人工智能對(duì)此的認(rèn)知，一種是比較直觀的環(huán)境和數(shù)據(jù)的不確定性導(dǎo)致的信息采集不完全；另一種則是更抽象的、更難以被感知的信息，這種模型的不確定性，讓大數(shù)據(jù)的模型存在歧義，讓人工智能在訓(xùn)練時(shí)也許表現(xiàn)得非常好，但是測(cè)試上就會(huì)發(fā)現(xiàn)性能距離很大。”朱軍表示，目前的解決思路是更深入地研究貝葉斯智能理論，解決如何定量、客觀地計(jì)算這種不確定性，得到最優(yōu)的結(jié)果。推動(dòng)貝葉斯智能理論研究的深化，則需要產(chǎn)學(xué)研界的共同努力。

安全是必須跨越的鴻溝

人工智能的概念產(chǎn)生最早可追溯到1956年的達(dá)特茅斯會(huì)議，但直到近十年來(lái)這一領(lǐng)域才真正地深刻改變了大眾生活，甚至攻克了多種人類世界的頂級(jí)挑戰(zhàn)，比如戰(zhàn)勝圍棋頂級(jí)選手、預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)、擊敗人類飛行員等等。但目前來(lái)看，當(dāng)前的人工智能技術(shù)不僅在可靠性方面存在很大問(wèn)題，安全和可信方面也開(kāi)始進(jìn)入瓶頸期。

8月3日，在首屆全球數(shù)字經(jīng)濟(jì)大會(huì)的人工智能產(chǎn)業(yè)治理主題論壇上，中國(guó)科學(xué)院院士張鈸拋出了一個(gè)觀點(diǎn)：當(dāng)前人工智能的安全治理是迫在眉睫的，隨著技術(shù)潛入到“深水區(qū)”，研究發(fā)現(xiàn)，人工智能的算法存在一些根本性的問(wèn)題，本身就帶有不安全性，容易受到攻擊。“人工智能技術(shù)所面臨的安全問(wèn)題是非常特殊的，其問(wèn)題不在于設(shè)計(jì)，而是源自算法本身的不安全性。這種算法的不安全性，是由第二代人工智能所引起的。”

“學(xué)術(shù)界已經(jīng)開(kāi)始思考技術(shù)下一步的發(fā)展方向，新一代人工智能的發(fā)展路徑是融合第一代的知識(shí)驅(qū)動(dòng)和第二代的數(shù)據(jù)驅(qū)動(dòng)的人工智能，同時(shí)利用知識(shí)、數(shù)據(jù)、算法和算力等4個(gè)要素，建立新的可解釋和魯棒的人工智能理論與方法，發(fā)展安全、可信、可靠和可擴(kuò)展的人工智能技術(shù)。”朱軍表示，“安全可靠”作為第三代人工智能的核心發(fā)展目標(biāo)逐漸成為共識(shí)，數(shù)據(jù)與算法安全也成為學(xué)界和業(yè)界人士重點(diǎn)關(guān)注的研究主題之一。