過去幾年，人們非常關注人工智能 (AI) 技術的發展狀況及其對網絡安全的影響。在許多行業中，與人工智能攻擊相關的風險仍然存在且令人擔憂，尤其是全球平均數據泄露成本比去年增加了 10% 。

然而，根據 IBM X-Force 團隊發布的最新《云威脅形勢報告》，針對云計算環境的人工智能攻擊的近期威脅實際上相對較低。不過，X-Force 的預測顯示，這些復雜的攻擊方法可能會有所增加。

云計算市場現狀

云計算市場繼續呈指數級增長，專家預計到 2024 年底其價值將達到 6750 億美元以上。隨著越來越多的組織將其運營能力擴展到本地限制之外并利用公共和私有云基礎設施和服務，AI技術在多個行業領域的采用正在穩步增長。

生成式人工智能與云計算平臺的快速融合為企業創造了許多機會，尤其是在實現 IT 服務和SaaS應用程序的部署、配置和可擴展性的更好的自動化和效率方面。

然而，隨著越來越多的企業依賴新的顛覆性技術來幫助他們最大化云投資的價值，生成式人工智能帶來的潛在安全危險受到各網絡安全組織的密切監視。

為什么目前認為云端人工智能發起的攻擊風險較低？

盡管根據Gartner 最近發布的報告，人工智能發起的攻擊仍然是高級風險和保證主管面臨的最大新興風險之一，但根據 X-Force 的研究，目前人工智能技術在云基礎設施攻擊中被利用和利用的威脅仍然相對較低。

這并不是說人工智能技術不再被大規模地用于開發和分發高度復雜的網絡釣魚計劃。這種行為已經在活躍的惡意軟件分發者（如Hive0137 ）身上得到體現，他們在編寫新的暗網工具腳本時使用大型語言模型 (LLM)。相反，當前較低的風險預測與人工智能平臺在云和本地環境中直接成為攻擊目標的可能性有關。

風險較低的主要原因之一是網絡犯罪分子需要進行復雜的工作才能成功破壞和操縱 AI 部署的底層基礎設施。即使攻擊者投入大量資源，基于云的 AI 工具和解決方案的市場飽和度仍然相對較低，這可能會導致在實施這些攻擊時投入的時間、資源和風險回報率較低。

為人工智能驅動的云威脅不可避免的增加做好準備

盡管如今人工智能驅動的云威脅的直接風險可能較低，但這并不是說組織不應該為這種狀況在不久的將來發生的變化做好準備。

IBM 的 X-Force 團隊已經認識到新技術在各個市場中的市場份額百分比與其相關網絡安全風險的觸發點之間的相關性。根據最近的 X-Force 分析，一旦生成式人工智能成熟并接近 50% 的市場飽和度，其攻擊面很可能會成為網絡犯罪分子更大的目標。

對于目前正在使用 AI 技術并著手采用云技術的組織而言，設計更安全的 AI 策略至關重要。這包括開發更強大的身份安全態勢、在整個云開發過程中集成安全性以及保護其數據和量子計算模型的完整性。