當人工智能領導者們爭論什么是安全的人工智能以及這是否意味著我們正走上毀滅之路時，網絡安全社區仍在努力思考如何才能最好地保護我們的企業和客戶。人工智能帶來了巨大的挑戰和機遇、大量新應用和快速發展的威脅。這使得網絡安全社區合作領先于不良行為者比以往任何時候都更加重要。

人工智能如何為黑客和惡意攻擊者提供力量

2022年，物理安全事件給企業造成了1萬億美元的損失，而人工智能驅動的網絡攻擊繼續表現出更高的復雜性、速度和適應性。雖然這使得它們更難檢測和緩解，但DarkGPT和FraudGPT等產品讓惡意行為者更容易造成傷害，而無需任何編碼技能。

人工智能算法可以將來自社交媒體和其他來源的大量數據轉化為高度針對性和令人信服的網絡釣魚攻擊或其他形式的社交工程。例如，在利用生成式人工智能的競爭中，黑客已經利用假的ChatGPT網站和模仿真實網站的網絡釣魚詐騙來利用普通用戶。當這些攻擊針對毫無戒心的員工時，它們可以提供對關鍵系統的未經授權的訪問。

與此同時，為了快速進入市場，合法的GenAI客戶在開發應用時往往沒有將安全性作為優先事項。由于Google的Gemini等產品容易受到攻擊，早期采用者正在使用第三方應用程序擴充員工隊伍，而這讓他們處于危險之中，這意味著員工可能會在不知情的情況下故意泄露企業的敏感信息。

隨著網絡安全社區學會防御一系列人工智能攻擊，該技術只會助長不法分子的氣焰。我們的團隊將面臨越來越高級的高級持續性威脅(APT)以及更復雜、更具有規避性的惡意軟件，這些惡意軟件能夠以更高的精度和速度滲透和操縱工業控制系統。

人工智能如何賦能網絡安全防御者

在人工智能加速發展的世界中，安全領導者面臨的挑戰比以往任何時候都要快。值得慶幸的是，我們擁有同樣的技術，我們可以利用人工智能解決方案來加強防御，并針對不良行為者發起主動行動。

通過將AI/ML類型的模型納入安全程序，我們的網絡安全團隊可以更深入地了解我們的數據，并發現我們原本會忽略的風險。與自動化相結合后，AI工具可以篩選海量數據集、比較數據集群行為，并在人類同行之前對潛在危險做出反應，從而快速將暴露的系統與公司的基礎設施隔離開來。

此外，正如惡意攻擊者使用GenAI制造更強大、更具欺騙性的威脅一樣，企業也可以使用該技術構建主動訓練場景。在這種受控環境中，團隊可以練習、測試和改進防御能力，從而為應對各種真實攻擊做好準備。在日常工作中，可以實施GenAI，使CISO能夠使用自然語言詢問有關其計劃的問題，并獲得具有預測性見解的準確答案。

雖然員工培訓和教育仍然至關重要，但擊敗當今的網絡犯罪分子需要強大且不斷發展的技術防御。

網絡安全高管的新角色

AI可以幫助提供早期檢測警告和更快的響應時間，以便在該時間段內識別違規行為。隨著職責的增加，如今的CISO不再像以前那樣身處戰壕。他們更有可能從更高的角度觀察他們的計劃，使他們能夠采取更全面的方法制定網絡防御策略，并用可操作的數據情報指導他們的團隊。

對于CISO來說，擁抱AI/ML對于實現這種整體視角并幫助分析他們需要篩選的大量數據至關重要。

總結

隨著人工智能的能力似乎以驚人的速度增長，它不斷為雙方帶來新的可能性。為了領先于被賦予權力的壞人并塑造一個有彈性和適應性的生態系統，網絡安全社區必須共同努力，發掘和擁抱風險管理和威脅防御中的可能性。