AI時代的信任與風險
根據Vanta的報告,55%的企業表示其業務面臨的安全風險前所未有地高,然而,企業在IT預算中平均僅分配11%用于安全保障,遠低于業務和IT領導者所建議的17%的理想比例。
大多數公司未提供AI數據訓練的選擇退出選項
AI的快速普及進一步加劇了風險,釣魚攻擊(33%)、基于AI的惡意軟件(32%)以及合規性違規(27%)自去年AI應用大幅增加以來逐漸上升。
雖然AI正逐漸走向主流,但公司在訓練其AI模型以及與客戶溝通其做法方面仍處于初期階段,且差異顯著。有27%的公司僅使用匿名化的客戶數據,而31%的公司則采用客戶數據和合成數據的混合方式,此外,盡管有25%的公司要求客戶選擇同意使用其數據進行AI訓練,超過75%的公司并未提供選擇退出的選項。
隨著企業對第三方供應商和AI的依賴日益增加,安全形勢從未如此嚴峻,與此同時,安全負責人及其團隊面臨日益增加的合規負擔。2024年,用于手動安全合規任務的時間增至超過11周,而2023年為10周。
65%的企業表示,客戶、投資者和供應商對合規展示的要求比以往更高。IT決策者平均每周花費6.5小時評估和審核供應商風險。
50%的企業每周至少一次檢測和響應網絡安全威脅,46%的企業表示其供應商自合作以來經歷過數據泄露,62%的人認為,第三方的數據泄露對其企業的聲譽產生負面影響。
37%的企業已或正在進行定期的AI風險評估,36%已制定或正在制定企業AI政策。
安全和合規問題在不同時區間存在顯著差異
盡管各國仍在應對一系列獨特的安全和合規挑戰,調查結果顯示各個時區的企業在面對這些挑戰時的差異顯著。
48%的美國企業自與供應商合作以來,經歷過供應商數據泄露事件——在所有調查市場中比例最高。英國的企業在合規任務上花費的時間最多——每年12周,而2023年為10周。澳大利亞的公司對供應商風險的了解最少,只有17%的公司擁有“強有力”的可見性。
美國公司最關注AI的內部使用及其對企業安全帶來的風險(53%)。
55%的英國企業增加了對安全運營中AI的投資,比美國高出10%,比澳大利亞高出18%,只有28%的澳大利亞公司已制定或正在制定公司AI政策——在所有市場中最低。
隨著客戶對安全的期望不斷提高,領導者逐漸認識到在構建和展示信任方面投資的商業價值,48%的受訪者認為良好的安全實踐有助于推動客戶信任,46%認為良好的安全實踐能夠降低財務風險。
在正確的方式下使用AI和自動化,能夠幫助安全團隊提升效率,騰出時間處理戰略性工作,進而帶來更多的業務影響。通過自動化用戶訪問審查、員工管理和安全問卷回復等活動,安全團隊平均每周可以節省3到5個小時。44%的企業表示,過去一年中他們在安全運營自動化方面的投資有所增加。
“在AI驅動的世界中保持信任,安全領導者需要超越傳統的做事方式,”Vanta的CEO Christina Cacioppo表示,“他們需要在整個業務中實現持續的、協作的、自動化的信任管理。信任管理可以幫助企業降低風險、建立客戶信心并加速收入增長。”
該報告由Vanta委托Sapio Research進行的《2024年信任狀況報告》,調查了美國、英國和澳大利亞的2500位業務和IT領導者的行為和態度,以揭示塑造安全和合規的最新趨勢。