我們仍處于人工智能 (AI) 的早期階段，但 AI 正快速成為企業防御自身的關鍵方法。利用高級算法，企業可以改善事件響應，監視潛在威脅，識別威脅信號。但 AI 的一個重要優勢被忽略了，人工智能可以發現人類分析師容易忽視的漏洞。

[[311663]]

很多公司企業都尚未發揮 AI 在網絡防御中最為重要的應用：缺乏同情心，俗稱 “沒人性”。

捕獲你的信任

社會工程由精于電話或電子郵件技巧的人發起并執行，并不需要高大上的黑客技術。相反，黑客耍弄的是客服代表或持有所需信息的任何人，騙取雙因子身份驗證綁定的手機號，或套取有利可圖的游戲賬戶密碼之類的信息。FBI 互聯網犯罪投訴中心聲稱，商務郵件入侵 (BEC)——一種流行的社會工程方法，僅 2018 年一年就造成了超過 12 億美元的損失。

盡管銀行和其他高價值實體可能是主要目標，但沒人能夠免疫此類攻擊。一名婦女在黑客成功迫使其無線運營商激活一張新 SIM 卡后，損失了價值 3 萬美元的加密貨幣，因為那張新卡被用于盜取她各類金融賬戶的雙因子身份驗證憑證。另一起事件中，Ubiquiti Networks 遭黑客假冒其高級員工，說服其財務部門完成了大筆資金轉賬，損失了 3,910 萬美元。

甚至就連獎勵計劃這么無傷大雅的東西，都有可能招來惡意黑客的興趣。公司企業目前通過培訓員工，設置員工應該隨時遵從的一系列規程，來處理該問題。

但遺憾的是，網絡安全鏈中最弱的一環并不是防火墻，而往往是人本身。客戶服務業務中希望取悅對方的那些人。他們往往不照著腳本辦事兒，還容易受話術高明的騙子影響。只要黑客聲稱自己遺失了酒店積分卡，申請再發一張到家中，然后問資料中留的是哪個地址，服務臺工作人員可能就為他效勞了。于是，陌生人就掌握了特定客戶的私人信息。

切斷通路

如果在客服人員之前先遇到的是人工智能，尤其是對話式 AI，那結果可能就完全不一樣了。全球比較大的游戲公司之一最先體驗了這種方式，決定使用對話式 AI 作為前端聊天代理。該公司以諸多成功視頻游戲版本而聞名，部署了 Amelia 接管客戶的簡單游戲問題。該公司覺得 Amelia 可以減少客戶等待問題解決的時間，Amelia 也確實實現了該公司的這一目的。但工作一段時間后，Amelia 還注意到通話者有時候會在沒有正確識別信息的情況下索要賬戶訪問權，由此檢測出網絡釣魚者。游戲世界中置入了真正的金融功能，綁定了金融賬戶信息，風險是相當高的。人類客服很容易被誘騙交出賬戶憑證。Amelia 卻絕不會被煽情故事打動。

Amelia 嚴格遵循公司策略做決策，不會落入社會工程技巧的陷阱。她僅僅想要證明你是你自己宣稱的那個人，通過遵照腳本和在遭遇風險行為時引入新的身份驗證方法來保證這一點。

初始推出即獲成功，至少部分成功。Amelia 解決客戶投訴的耗時比人類員工要少，還在此基礎之上減少了虛假賬戶使用，但是客戶滿意度下降了。消費者怎么會不喜歡可以阻止他們賬戶信息被盜的 AI 呢?

仔細看過 Amelia 和客戶在正常聊天和升級聊天過程中的對話轉錄后，原因就明朗了。Amelia 嚴格遵從規程，不讓自己被黑客牽著鼻子走，黑客就故意給差評，而游戲公司服務中心則給她好評。

實時才是王道

即使不在客戶服務環境中，對話式 AI 也能給威脅評估人員帶來競爭優勢。高級對話式 AI 不是定期和離線掃描數據或監視威脅，它能夠實時分析數據和行為，捕獲互動上下文。如果用戶想要他的余額，高級對話式 AI 會捕獲其正確含義——在基于他所提供的信息驗證了其身份之后。由于數據在后端在線處理，前端對話式 AI 能給人一種真實的一對一交流的自然感覺。

AI 能夠實時評估對話，具備處理每個威脅評估措辭的能力，是個非常強大的工具。如果可疑客戶的表現偏離常規太遠而構成風險，對話式 AI 能夠識別出來，并且采取恰當的行動。這些行動可能僅僅是增加額外的身份驗證步驟那么簡單。

如果沒有 AI，那可能就只有在對話結束后再審查是否有欺詐的跡象了。那時惡意黑客都可能已經卷款逃走了。但如果是由 AI 而不是由真人來進行對話，AI 就可以觀察所有發生的事情，分析每個詞，圍繞威脅、風險和安全作出實時決策。

占據主導

社會工程跟基于暴力破解算法的軟件攻擊一樣，都是黑客攻擊之源。無論攻擊的是酒店、游戲發行商，還是其他什么機構，黑客總在搜索可以讓他們進入目標網絡的信息。但他們無需執行高度復雜的攻擊來獲取自身所需;他們只需要一個動人的故事，一點點耐心，和一名愿意破例的客服中心工作人員。

通過讓對話式 AI 在前端聊天中占據主導，公司企業能夠緩解社會工程導致的潛在破壞。這項工作可以，也應該，在對客戶干擾盡可能少的情況下實施。事實上，你的客戶甚至都不應該會去想對話另一頭的人是誰。他們只應該簡單地輸入查詢問題，然后獲得自己想要的，再繼續其他事項。畢竟，這種便利性不就是我們設想的未來嗎?