機器學習難以直面“房間里的大象”
AI 不具有人類那種對異常現象感到難以置信但同時能坦然接受的能力,比如房間里突然出現一只大象。根據發表在預印本網站 arxiv.org 上的一項研究(PDF),計算機科學家發現深度學習并不真的“深度”,AI 在發現難以置信的事情后會“發瘋”。
在計算機視覺領域,人工智能系統會嘗試識別和分類對象。在這項研究中,研究人員向計算機視覺系統展示了一幅客廳的場景,系統正確的識別了椅子、人和書架上的書。研究人員隨后向場景中引入了異常對象:一只大象的圖像。
然后 AI 系統瘋了,它忘記了已經識別的對象,將椅子識別為沙發,將大象識別為椅子,其它此前已經識別的對象都視而不見了。
論文合作者 Amir Rosenfeld 稱,研究顯示了目前的對象識別系統是多么的脆弱。研究人員仍然在嘗試理解為什么計算機視覺系統如此容易犯錯。他們猜測是 AI 缺乏人類那種從容處理海量信息的能力。