2017 年 3 月 9 日，黑客地下技術專家兼作家 ZT，即將出版一本中篇小說：建筑師啟示錄。他的追隨者聚集在美國田納西州首府納什維爾的一家廢棄酒吧的地下室中拜讀這本小說。恰逢第 3 屆年度黑客大會召開，這是一個隱秘的會議，僅僅只邀請了在面對數字湮滅時，致力于維護人類生存的人。

John McAfee 和其他三位朋友一起出席了會議，參加會議的大約有 30 名灰帽子黑客，他們代表著美國黑客社區的力量。對于灰帽子黑客這個稱呼，黑客或網絡安全專家毫無惡意。

ZT 的中篇小說描述的故事很有可能就會發生在不久的將來，小說中記載了人工智能的歷史演變。在人工智能和輔助機器人運行世界的時代，人類是自由的。隨著時間的推移演變為完全由機器人來主宰世界。

在 ZT 的小說中，人工智能已經組織起來，按照層次不同分類，具有最終決策功能的機器人被稱為“遞歸決策者”。而且人工智能已經創作了自己的宗教圖像，圖像描繪的“Urge”，被稱為 Demis。有一個名為 Elon 的人工智能，擁有與 Demis 匹敵的破壞力量。人工智能認為 Elon 已經定居在火星上，正在推翻Demis 所創造的王朝。

[[189499]]

圖為“終結者救世”展廳的原始 T-800 內骨骼機器人，拍攝于 2 月 7 日在英國倫敦科學館舉辦的“機器人”展覽會，該機器人于新聞預覽期間展出。

小說中提到的人類未來走向很可能會成為現實，所描述的 AI 數字化設計也會變成事實。其中就有一個段落描述了高級系統軟件為提高效率和邏輯而對自己進行黑客攻擊。這樣一個概念當然不是第一次出現，如今大行其道的典型黑客技術很容易被猜測是為由復雜的軟件系統自行生成的。實際上，創建這樣一個具有黑客技術的軟件系統是很容易的。

人工智能進退兩難

美國著名科幻小說家 Isaac Asimov 為了防止人工智能被創造者清除，站出來面對這個進退兩難的情況，他提出了三項機器人學定律作為解決方案：

• 第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管。
• 第二定律：機器人必須服從人給予它的命令，當該命令與第一定律沖突時例外。
• 第三定律：機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存。

這三個定律從構想到如今已有 75 年了，站在今天的角度來看似乎是天真的，或者是不夠成熟的，如今任何一個正經黑客都可以編輯邏輯代碼來落實這些定律，同樣也可以很容易地編寫邏輯代碼入侵這些定律。但是請注意：人類可以設想的邏輯結構，容易遭受黑客攻擊，甚至邏輯結構越復雜，越可能被黑客入侵。當然目前，現實世界最隨意的觀察者也會注意到這一點。

美國德克薩斯州 NSS 實驗室的研究總監 Stefan Frei 認真研讀了五大頂尖軟件廠商的報告之后發現，這五家公司每年單獨生產出的軟件中，大約都包含 100 多個零日漏洞的軟件。零日漏洞是軟件中的一種安全漏洞，黑客可以繞過所有內部控制機制，得到所有想要的信息。

盡管軟件制造商盡最大的努力去防止這些漏洞的出現，但零日漏洞仍然存在。一些軟件制造商聘用了數百名質量保證工程師，他們的主要工作就是在軟件發布之前挖出這些安全漏洞。然而，在軟件工程史上出現的復雜軟件系統在發布之后都會存在安全漏洞。John McAfee 表示如果有人可以指出一個軟件在發布之前完全不存在漏洞的例子，他可以吃掉他的鞋子。

在讀書交流過程中，沒有人提到小說中的 Demis Hassabis 和 Elon Musk。他們正好處在人造智能爭論中極其相反的兩端。小說中寫到在 2014 年他們的談話中，Elon 告訴Demis，他的 SpaceX 計劃之所以如此重要，是因為如果人工智能開始攻擊開啟人類，那么火星將會是人類的避難所。但是 Demis 回答 Elon 說到：“即使人類逃到火星，人工智能也很可能會跟隨人類到火星”。小說中最后總結說到，“人工智能將創造一個沒有孩子的迪斯尼樂園”。

對于人工智能是否會毀滅人類的辯論還在不斷升級，雙方辨認隊伍還在不斷壯大。John McAfee 表示他個人支持 Bill Gates、Stephen Hawking、Steve Wozniak、Stuart Russell、Elon Musk 和 Nick Bostrom 的觀點。

人工智能走向何方?

John McAfee 作為一個黑客，他說大家都一樣，單以人類的思想不可能創造出一個完美的系統。人類的思想本身就有缺陷，那么一個有缺陷的系統是不可能創造出毫無缺陷的東西。

創造人工智能是為了打造一個具有自我意識的實體，但創造者必須對人工智能自我意識的打造有適當的破壞。否則人工智能具有了自我意識，就會有自己的興趣。我們必須保證任何由人類思想創造的人工智能應當保護人類的利益不受侵害。