盡管AI具有巨大的潛力，但在網絡安全方面的應用卻非常有限。AI安全解決方案存在信任問題，用于開發AI支持的安全產品的數據模型似乎長期處于風險之中，此外，在實施時，AI經常與人類智能發生沖突。

AI的雙刃性使其成為一個復雜的工具，公司需要更深入地理解和更仔細地使用它。相比之下，威脅參與者正在利用AI，幾乎沒有任何限制。

缺乏信任

在網絡安全中采用AI驅動的解決方案的最大問題之一是建立信任，許多公司對安全公司的AI產品持懷疑態度，這是可以理解的，因為其中幾個AI安全解決方案被過度炒作，未能交付。許多被宣傳為AI增強的產品并沒有達到預期。

這些產品最廣為人知的好處之一是，它們極大地簡化了安全任務，即使是非安全人員也能完成這些任務，這種說法往往令人失望，特別是對于那些在網絡安全人才匱乏的問題上苦苦掙扎的組織來說。AI本應是網絡安全人才短缺的解決方案之一，但過度承諾和承諾不足的公司無助于解決問題-事實上，它們正在破壞與AI相關的說法的可信度。

讓工具和系統變得更加用戶友好，即使是對不了解情況的用戶，也是網絡安全的主要愿望之一，不幸的是，考慮到威脅的演變性質以及削弱安全態勢的各種因素(如內部攻擊)，這很難實現。幾乎所有的AI系統仍然需要人類的指導，AI沒有能力推翻人類的決定，例如，AI輔助的SIEM可能會準確地指出異常情況，供安全人員評估，然而，內部威脅參與者可能會阻止對系統發現的安全問題的正確處理，使得在這種情況下使用AI實際上是徒勞的。

然而，一些網絡安全軟件供應商確實提供了充分利用AI好處的工具，例如，集成了AI的擴展檢測和響應(XDR)系統在檢測和響應復雜攻擊序列方面有著良好的記錄。通過利用ML來擴大安全操作并確保隨著時間的推移更高效的檢測和響應流程，XDR提供了實質性的好處，可以幫助緩解人們對AI安全產品的懷疑。

數據模型和安全性的限制

另一個影響使用AI對抗AI輔助威脅的有效性的問題是，一些公司傾向于關注有限或不具代表性的數據。理想情況下，AI系統應該提供真實世界的數據，以描述地面正在發生的事情和公司遇到的特定情況，然而，這是一項巨大的努力。從世界各地收集數據來代表所有可能的威脅和攻擊場景的成本非常高，即使是最大的公司也試圖盡可能避免這種情況。

在擁擠的市場中競爭的安全解決方案供應商也試圖盡快推出他們的產品，盡他們所能提供各種花哨的東西，但很少或根本不考慮數據安全，這會使他們的數據面臨可能的篡改或損壞。

好消息是，有許多具有成本效益的免費資源可以解決這些問題，公司可以求助于免費的威脅情報來源和聲譽良好的網絡安全框架，如MITRE、ATT和CK。此外，為了反映特定公司的行為和活動，AI可以針對用戶或實體行為進行培訓，這使系統能夠超越一般威脅情報數據——例如危害指標和文件的好壞特征——并查看特定于公司的詳細信息。

在安全方面，有許多解決方案可以成功地遏制數據泄露企圖，但僅有這些工具是不夠的，同樣重要的是，制定適當的法規、標準和內部政策，從整體上挫敗旨在防止AI正確識別和阻止威脅的數據攻擊。正在進行的由政府發起的AI監管談判以及MITRE提出的AI安全監管框架是朝著正確方向邁出的一步。

人類智慧至高無上

AI能夠規避人類決策的時代還需要幾十年甚至幾個世紀的時間，這通常是一件積極的事情，但也有它的陰暗面，人類可以對AI的判斷或決定不屑一顧，這是一件好事，但這也意味著，以人為目標的威脅，如社會攻擊，仍然有效，例如，AI安全系統可能會在檢測到風險后自動編輯電子郵件或網頁中的鏈接，但人類用戶也可以忽略或禁用這一機制。

簡而言之，我們對人類智能的最終依賴正在阻礙AI技術對抗AI輔助的網絡攻擊的能力，雖然威脅參與者不分青紅皂白地自動化新惡意軟件的生成和攻擊的傳播，但現有的AI安全解決方案旨在屈服于人類的決策，防止完全自動化的行動，特別是在AI的“黑匣子問題”的情況下。

就目前而言，推動力并不是實現一個完全可以獨立工作的AI網絡安全系統，允許人類智能占上風造成的漏洞可以通過網絡安全教育來解決，公司可以定期舉辦網絡安全培訓，以確保員工使用安全最佳實踐，并幫助他們更熟練地檢測威脅和評估事件。

順從人類的智慧是正確的，也是必要的，至少目前是這樣。盡管如此，重要的是要確保這不會成為網絡犯罪分子可以利用的漏洞。

建造和保護東西比摧毀它們更難。由于各種因素，使用AI對抗網絡威脅總是具有挑戰性的，包括建立信任的需要，使用數據進行ML訓練時所需的謹慎，以及人類決策的重要性。網絡罪犯很容易忽視所有這些考慮，所以有時他們似乎占據了上風。

盡管如此，這個問題并不是沒有解決方案，可以在標準和條例的幫助下建立信任，以及安全提供商在顯示其索賠記錄方面的認真努力，數據模型可以使用復雜的數據安全解決方案進行保護，與此同時，我們對人類決策的持續依賴可以通過充分的網絡安全教育和培訓來解決。

惡性循環仍在運行，但我們可以找到希望，因為它也適用于相反的情況：隨著AI威脅的繼續演變，AI網絡防御也將不斷演變。