人工智能技術現在幾乎可以說是無處不在了。在RSAC 2021看的演講視頻，發表一下我個人的淺見。先說好的方面，人工智能在極大的提高安全工作人員的效率，尤其是在安全從業人員極度短缺的背景之下。AI在XDR、IR方面的作用，對大量數據的智能處理，告警的關聯分析，優先級的排序，極大地改善了企業SOC的運行。結果是安全分析員嗨皮了，不用996了。安全工程師高興了，不用痛苦地維護更新規則了。CISO也高興了，預算控制好不超額了，董事會也不會一出事就炒魷魚了。

最強大的AI技術在SOC里應該能夠幫助組織主動識別、隔離及響應安全問題，幫助團隊評估問題對業務的相對影響。這類平臺能夠確定潛在問題是否屬于勒索軟件攻擊、有無滲透至計算機系統內并及時關閉對關鍵數據的訪問通道。此外，這類平臺還有望找出具有長期影響的威脅因素，例如可能給組織造成巨大聲譽損失的客戶數據泄露問題。

網絡安全方面有其特殊性，AI也是一把雙刃劍。“魔高一尺，道高一丈”，使用AI來對付AI的技術也有不少演講。

Sophos AI team 討論了使用GPT來生成特定的文風和內容的句子。黑客可以使用GPT來生成SPAM郵件，同樣的AI技術也可以反過來作為SPAM郵件的過濾器來識別AI生成的垃圾郵件。

不管是攻防哪個方向使用AI技術，畢竟還是人在使用AI技術。第一天的keynote演講，來自哈佛大學肯尼迪學院的安全技術專家、研究員和講師Bruce Schneier描述了一個科幻電影里的場景，如果AI變成了黑客，會對社會造成怎樣的影響。

演講的題目是《The Coming AI Hackers》，“黑客行為通常被認為是針對計算機系統所做的攻擊。這種想法可以擴展到任何規則系統：稅法、金融市場和任何法律系統都可以被黑掉。不如設想一下，當AI可以成為黑客的世界–我們的社會、經濟和政治系統的黑客被發現來源于計算機系統本身。因此，人們的快速響應方法必須改變。”

這個演講里有很多有意思的話題。比如說人類有很多認知的東西，是不需要特地寫明的，比如同理心、底限。可以說，“人之初，性本善”。現在的AI還沒有建立這樣的功能。AI可以為實現目標無所不為，因為對AI來說并沒有人類習以為常的規則和價值體系。整個演講很有意思，對于我們技術崇拜者來說，也是從不同角度敲了敲警鐘。