不僅是工程學！人類認知偏差導致的12個AI研究盲區
大數據文摘出品
編譯：狗小白、張秋玥、Aileen
人類天生存在許多認知偏差，而這對科學進步危害巨大。科學研究傾向于偏好既有研究方法，進而導致許多研究體系中的內在特性被忽略。
因此，研究者很可能不幸花費畢生追索錯誤無意義的方向。回顧歷史，科學長河中充斥著許多后人證明為錯誤因而毫無價值的研究。
Sabine Hossenfelder在她粒子物理學領域中寫過這認知偏差。她在《迷失在數學中(Lost In Math)》一書中探索了一群世上***天賦的科學家們所具有的認知偏差。
她表示，這些科學家們雖具有優秀的認知能力，但在不懈追求美的道路上，理論物理學家們也走進了科學的誤區，物理學在過去的四十來年內沒出現任何重大突破。她認為，科學的客觀性已屈服于采取具有美學意義的方法論。
這篇文章中，我會探索在人工智能(或強人工智能AGI)領域探索過程中存在的類似偏差。
可能存在的偏差之一即是貝葉斯定理的濫用。貝葉斯定理的產生啟發自奧卡姆剃刀定律：“需要假設條件最少的理論解釋最可能是正確的理論。”
因而，許多科學家們忠于他們的職業，并信仰“所有的事情都應該盡可能簡單，但又不過分簡單”的理念。
以上的確是人類理解世界的優秀法則，但也正是Hossenfelder所反對的美學主義。科學研究的重大突破往往依賴于科學家們某個瞬間的第六感，但這些假設不應導致對預感的武斷應用。在此引用Richard Feynman的一句：“無論你的理論多么美妙，你又有多么聰明，但如果與實驗結果相佐，你的理論就是錯的。”
在此我想談一談大部分(強)人工智能研究者總是忽視的12個事實：
1. 直覺
認知心理學家們早已確定，人類認知的運作依賴于兩種獨立的認知方式，這就是雙過程理論。直覺思維與理性意識互為競爭又相互協作，支持著人類認知。老式的人工智能的失敗可追溯至當時對人類認知主要基于理性認知系統的理念，雖然諸多證據表明并非如此。直覺認知系統才是驅動所有人類認知的本質發動機，人類認知普遍采用“分期推斷”。
2. 睡眠
大自然要求睡眠占人類生***一個不小的部分。缺覺會導致認知障礙，最終可能致死。至少有實證證據表明，睡眠對認知發展具有重要意義。但不幸的是，很多研究者忽視了人類“待機狀態下的”認知發展。而事實上，人類掌握抽象概念的能力很可能是在睡眠過程中成長的。
3. 不全面的呈現
很久以來，科學家們都試圖找到內部心理的生成呈現出外部世界的存在，因此，老式的人工智能建立符號模型來倒映外部世界的語義。深度學習訓練網絡學習對世界的內部呈現，這個內部呈現在一個連續的高維空間反應出觀察結果的語義。這個空間則允許諸如理性、相似性比較之類的操作。
這有兩個問題：***個問題是內部呈現拋出了更深層的問題，繪制外部真實世界的內部呈現仍需要一些用以理解內部呈現的東西。第二個問題是，我們其實只關注我們觀察到的世界里的其中一小部分。認知盲區是存在的，不像機器那樣能夠留下圖片般的呈現，我們只關注很小一部分的圖景，其它部分靠想象。James Gibson在他生態認知的理論中描述了另一種基于可供性的呈現，也即大腦僅僅捕獲環境中可能存在的而非環境真實的反映。
4. 靈敏度
我們是如何僅靠觸摸來分辨一個物體的?我們是如何靠摸就能辨認出棕色袋子里的蘋果?很明顯，感知并不僅靠現實世界的一張快照，而是由多角度的快照組合成一個前后一致的統一。人類擁有異乎尋常的靈巧的手，也許正因此我們才有了高級認知能力。我們對世界有更好的呈現，也許是因為我們與世界的參與度更高，且能夠更好地分辨不相干信息。但在如今的研究中，卻很少涉及認知方面的探索，以及一體化機制。
5. 有限的理性
人類并非全然的理性動物。大多數人無法同時處理五個以上的事情，幾乎所有人都無法探索三層以上的遞歸信息。但大部分諸如AIXI、梭羅莫諾夫感應、符號計算和概率推理等AGI的議題都要求全然的理性。我想表達的是，簡單啟發式思維也許就是驅動人類思考的全部了，我們并不需要求助于優雅的數學方法。研究者傾向于從他們的“武器庫”里取出那些數學工具來用，于是，要么把問題復雜化了，要么就是由于人類認知能力的問題而選錯了工具。莫羅夫復雜度(Kolmogorov complexity) 是一個衡量復雜度的有趣的公式，但這個方法幾乎沒可能與人類的有限理性卻完全的智能程度有任何相關性。
6. 描述性模型v.s.生成性模型
Daniel Dennett將革命和圖靈機器人描述成“不能思考的技能擁有者”，因為他們擁有相當的能力來完成很多復雜的流程，但卻不明白為什么這么做。當然這也是眾所周知了。但這迷惑了許多不能理解復雜設計怎么能從非智能中生成的人們。我懷疑這是因為人類的認知偏差要求從混沌中找出規律，從而找到內在的設計。
關于現實的數學模型或邏輯模型都是描述性模型。這意味著，科學家們通過恒定的定律來分辨世界中的規律，而這些定律被視為現實世界的縮影描述。但是，描述性模型并非現實世界的本質，它們只不過是從復雜生成行為中觀察出的規律。
即使不存在規律，人類也還是努力去尋找聯系。我們看著天上的云，以為看到復活節兔子。但變化多端的云彩并非有意幻化成復活節兔子的樣子，這是人類尋找世界規律過程中的一個主觀臆斷。這意味著，對世界的描述性模型至多只是在歸納現實行為中的特點，但并非是生成式模型。因此，如同概率模型等描述性模型模擬情景模擬得再好也只是模擬，與生成式模型不同。此外，“停機問題”意味著，通過觀測的描述性模型來發現真實的生成式模型是不現實的。
7. 生成自遠離均衡過程
生成性而非描述性的規律究竟緣何而起?熱力學的第二定理表明了萬物傾向于混沌。混沌在此指的是一個測量單位，也即熵值，描述了我們無法從觀測中找到描述性的規律。Ilya Prigogine表示，遠離均衡的狀態下才能找到規律。而現今的機器學習方法論的問題在于，運用的數學總是假設一定的均衡狀態。
然而，我們還是不能僅僅考慮自我管理的功能。認知能力會不斷通過一個層層嵌套新出現能力的程式來鍛煉提升自己。新出現問題的一項數學上的缺陷是，它無法被預先計算出來。這是因為每一項新出現的能力都會使可能組合的數量大大增加，而同時一些先前未知的事件變得已知。人類科技創新既是對此的直觀描述。在萬維網被發明之前，誰能想象到谷歌的今天呢?
8. 主觀性
認知模型中最容易被忽視的信息之一則是關于自身的信息。所有生物學上的反應都與生物自身原始概念相關。也就是說，生物們的行為都由其生存與繁衍的基本目標驅動。所有的生物學原理都由這種維持自我邊界的概念所驅動。因此當我們開始探索更高級的存在(比如我們自己)的時候，我們必須在模型中囊括自我的概念。這樣做將導致自我模型需要被嵌入于某生態系統中。一個有認知的個體必須與能夠意識到自我行為以及其行為如何與生態系統所交互的***人稱視角模型相結合。
9. 納米意向性
最簡單的生物細胞中都存在維持自我的復雜認知行為。Michael Levin的研究表明，在缺少中央神經系統時，形態發生過程中會需要復雜的認知(也即生物電計算)。這個觀點大大扭轉了我們針對人類大腦建立的描述性模型。如果每一個神經元都與真核細胞擁有一致的復雜行為，那么深度學習發現的協調操作模型可能并不足以捕捉基本能力(比如協調能力與自我修復能力)。
10. 非靜態認知模型
我們目前擁有的認知模型均為靜態模型，并且適用于單件任務。然而，若想實現生物學級別的協調適應性，我們的認知模型并不能為靜態模型;它們需要變得連續、及時并且可對話。我們需要最適合的啟發式算法支持的持續場景切換以保證模型隨著生態系統變化而調整。
結構是如何在一個復雜且動態的生態系統中被保存的呢?生物個體能夠自我調節，擁有許多有意圖的成員的生態系統也能夠自我調節——存在防止事物偏離平衡點的更高一層機制。這將會是允許我們跟蹤復雜對話的那項機制嗎?
11. 集合而非個體
自我模型不能與其成長的生態分離。實際上，各項能力基本只能在與其成長的生態非常不同的環境中被培養出來。比如，生命需要氨基酸、DNA與脂質。這三項物質到底是如何各自進化成為互相必不可少的成分呢?它們很可能在不同的生態系統內各自進化直到在目前的生物圈內進入一個協同關系。總體來說，生命無法脫離其歸屬的生態系統。這可能也意味著，高級認知能力——比如語言能力——無法脫離人類存在的文化環境而成長。人們并非與生俱來地擁有語言能力，而是我們獨特的文化教育了我們語言能力。
12. 產前發展與幼態持續發展
你有思考過為什么哺乳動物(比起更為原始的有袋類動物)會使其后代在子宮中發育嗎? 你知道人類嬰兒會在離開子宮真正出生之前數周就已擁有完整的認知能力了嗎?我們假設人類認知發展在出生之后才開始，然而實際上關于它在出生之前就已開始的證據非常充足;也正因于此，許多母親與世界的反應與交互反映在她子宮中的孩子身上。孩子在子宮中學到了什么呢?
另一項人類的獨特之處在于，比起其他生物我們保持孩童外表的時間相對較長。2.5歲至3歲的人類與大猩猩認知水平類似。動物保持年幼外表的這一特性被稱為幼態持續。以狗類為例，相較其狼類表親，它們保持較大的眼睛、松弛的耳朵以及更短的鼻吻。蠑螈在其整個”人生“中都保持其嬰兒時期的狀態;他們擁有一項驚人的能力——重新長出其身體的一部分。
一項近期研究表明，在人類體內299項與年齡相關的基因中，有40項基因在人生后期才會被表達。實際上，為大眾所知，成熟相對較快的人類會喪失部分認知能力。保持年輕確實對認知能力有好處。年輕人擁有比成年人更強的腦可塑性;更久地保持年輕能夠使人們擁有更多時間來發展那些從社會中獲得的認知技能(即模仿能力、語言能力與共情能力)。
人類可能比其他物種更有智慧是因為我們保持了更久的好奇與探索心這樣的學習能力。
這***一點旨在告訴你，那些僵化的學習策略——比如依賴于其”武力、宗教或仇恨“的策略——是很難創新的。而那些試圖探索新道路的則是最可能發掘出新事物的策略。
敲黑板總結一下!
你可能已經注意到了，這些盲點之間相互聯系。它們并非毫不相關;結合在一起，它們為前沿AGI研究揭示了一種新穎的完整角度。上文有趣之處在于它與常見的過度注重技術問題的那些AGI研究截然不同。這可能是由大多數STEM課程帶來的認知偏差導致的。
你不能搭建空中樓閣式的AGI模型;相反，你得從根基開始搭建——這意味著你得一步步培育它。因此我們需要一種自然而有邏輯的方法。盡管，”成長智慧“這一概念看起來顯而易見，其實有大量研究者堅持走相反的道路(非常令人吃驚!)。很多人都有這樣的偏見：AI就是工程學。而實際上它與心理學與生物學更為相關。
在Beyond Efficiency一文中，Dave Ackley討論了為什么我們的計算系統如此脆弱這一問題。他認為這應歸咎于”只能正確、只能高效“的心態。經常發生的計算機安全漏洞告訴我們，我們應當在其中應用生物學告訴我們的魯棒性知識。Ackley怪罪于我們沒有強調”系統性思考“。
系統性思考著重于一種關注結構的整體性方法;這與控制論相關(控制論學習控制、反饋、管制與交互)。高級AGI將需要我們更好地理解人類認知，以及對生物學復雜性的認識。因此我將在這里重述Arthur C. Clarke關于科技的名言。更精確地說這句話將為：任何足夠先進的科技都與生物學密不可分。
相關報道：
https://medium.com/intuitionmachine/12-blind-spots-about-human-cognition-1883d0d58e0a
【本文是51CTO專欄機構大數據文摘的原創譯文，微信公眾號“大數據文摘（ id: BigDataDigest）”】
