2024 年的網(wǎng)絡(luò)安全問(wèn)題可以用兩個(gè)字母來(lái)概括：AI（如果縮小到 gen AI，則為五個(gè)字母）。組織仍處于了解這項(xiàng)技術(shù)的風(fēng)險(xiǎn)和回報(bào)的早期階段。盡管它可以改善數(shù)據(jù)保護(hù)、遵守合規(guī)性法規(guī)并實(shí)現(xiàn)更快的威脅檢測(cè)，但威脅行為者也在使用 AI 來(lái)加速他們的社會(huì)工程攻擊，并使用惡意軟件破壞 AI 模型。

2024 年，人工智能可能獲得了最多的關(guān)注，但它并不是組織必須應(yīng)對(duì)的唯一網(wǎng)絡(luò)威脅。憑證盜竊仍然是一個(gè)問(wèn)題，使用被盜憑證的攻擊同比增長(zhǎng)了 71%。技能短缺仍在繼續(xù)，公司在數(shù)據(jù)泄露后又損失了 176 萬(wàn)美元 。隨著越來(lái)越多的公司依賴云，云入侵事件激增也就不足為奇了。

但過(guò)去一年網(wǎng)絡(luò)安全領(lǐng)域取得了積極進(jìn)展。CISA 的Secure by Design 計(jì)劃與 250 多家軟件制造商簽約，以改善其網(wǎng)絡(luò)安全狀況。CISA 還推出了網(wǎng)絡(luò)事件報(bào)告門戶，以改善組織共享網(wǎng)絡(luò)信息的方式。

去年的網(wǎng)絡(luò)安全預(yù)測(cè)主要關(guān)注人工智能及其對(duì)安全團(tuán)隊(duì)未來(lái)運(yùn)作方式的影響。今年的預(yù)測(cè)也強(qiáng)調(diào)了人工智能，表明網(wǎng)絡(luò)安全可能已經(jīng)達(dá)到了安全和人工智能相互依存的程度，無(wú)論好壞。

以下是今年的預(yù)測(cè)：

影子人工智能無(wú)處不在（IBM 安全產(chǎn)品管理副總裁 Akiba Saeedi）

影子人工智能將比我們想象的更加普遍，也更加危險(xiǎn)。企業(yè)每天都會(huì)在系統(tǒng)中部署越來(lái)越多的生成式人工智能模型，有時(shí)甚至在企業(yè)不知情的情況下部署。到 2025 年，企業(yè)將真正看到“影子人工智能”的規(guī)模——未經(jīng)批準(zhǔn)的人工智能模型，由未得到適當(dāng)管理的員工使用。影子人工智能對(duì)數(shù)據(jù)安全構(gòu)成重大風(fēng)險(xiǎn)，2025 年成功應(yīng)對(duì)這一問(wèn)題的企業(yè)將采用明確的治理政策、全面的員工培訓(xùn)以及認(rèn)真的檢測(cè)和響應(yīng)。

身份的轉(zhuǎn)變（IBM 安全產(chǎn)品管理執(zhí)行總監(jiān) Wes Gyure）

隨著混合云和應(yīng)用現(xiàn)代化計(jì)劃的實(shí)施，企業(yè)對(duì)身份的看法將繼續(xù)發(fā)生變化。認(rèn)識(shí)到身份已成為新的安全邊界，企業(yè)將繼續(xù)轉(zhuǎn)向“身份優(yōu)先”戰(zhàn)略，管理和保護(hù)對(duì)應(yīng)用程序和關(guān)鍵數(shù)據(jù)（包括新一代人工智能模型）的訪問(wèn)。2025 年，該戰(zhàn)略的一個(gè)基本組成部分是構(gòu)建有效的身份結(jié)構(gòu)，即一套與產(chǎn)品無(wú)關(guān)的集成身份工具和服務(wù)。如果做得好，這將為安全專業(yè)人員帶來(lái)可喜的緩解，緩解多云環(huán)境激增和身份解決方案分散造成的混亂和風(fēng)險(xiǎn)。

每個(gè)人都必須共同努力來(lái)應(yīng)對(duì)威脅（Sam Hector，IBM 安全全球戰(zhàn)略負(fù)責(zé)人）

網(wǎng)絡(luò)安全團(tuán)隊(duì)將不再能夠孤立地有效管理威脅。生成式人工智能和混合云采用帶來(lái)的威脅正在迅速演變。與此同時(shí)，量子計(jì)算對(duì)現(xiàn)代公鑰加密標(biāo)準(zhǔn)構(gòu)成的風(fēng)險(xiǎn)將變得不可避免。鑒于新的量子安全加密標(biāo)準(zhǔn)的成熟，人們將推動(dòng)發(fā)現(xiàn)加密資產(chǎn)并加速加密管理的現(xiàn)代化。明年，成功的組織將是那些高管和多元化團(tuán)隊(duì)共同制定和執(zhí)行網(wǎng)絡(luò)安全戰(zhàn)略、將安全融入組織文化的組織。

為后量子密碼標(biāo)準(zhǔn)做好準(zhǔn)備（Ray Harishankar，IBM 院士，IBM Quantum Safe）

隨著各組織在明年開(kāi)始向后量子密碼學(xué)過(guò)渡，敏捷性對(duì)于確保系統(tǒng)為持續(xù)轉(zhuǎn)型做好準(zhǔn)備至關(guān)重要，尤其是隨著美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所 (NIST) 繼續(xù)擴(kuò)展其后量子密碼學(xué)標(biāo)準(zhǔn)工具箱。NIST 最初的后量子密碼學(xué)標(biāo)準(zhǔn)向世界發(fā)出信號(hào)，現(xiàn)在是時(shí)候開(kāi)始走向量子安全了。但同樣重要的是加密敏捷性的需求，確保系統(tǒng)能夠快速適應(yīng)新的加密機(jī)制和算法，以應(yīng)對(duì)不斷變化的威脅、技術(shù)進(jìn)步和漏洞。理想情況下，自動(dòng)化將簡(jiǎn)化和加速這一過(guò)程。

數(shù)據(jù)將成為人工智能安全的重要組成部分（IBM 安全軟件開(kāi)發(fā)副總裁 Suja Viswesan）

數(shù)據(jù)和人工智能安全將成為可信賴人工智能的重要組成部分。“可信賴人工智能”通常被解釋為透明、公平和保護(hù)隱私的人工智能。這些都是關(guān)鍵特征。但如果人工智能及其驅(qū)動(dòng)數(shù)據(jù)不安全，那么所有其他特征都會(huì)受到損害。到 2025 年，隨著企業(yè)、政府和個(gè)人與人工智能的互動(dòng)越來(lái)越頻繁，風(fēng)險(xiǎn)也越來(lái)越大，數(shù)據(jù)和人工智能安全將被視為可信賴人工智能配方中更重要的一部分。

組織將繼續(xù)學(xué)習(xí)人工智能的優(yōu)勢(shì)與威脅的對(duì)比（Mark Hughes，IBM 網(wǎng)絡(luò)安全服務(wù)全球執(zhí)行合伙人）

隨著人工智能從概念驗(yàn)證階段逐漸成熟到大規(guī)模部署，企業(yè)獲得了生產(chǎn)力和效率提升的好處，包括自動(dòng)化安全和合規(guī)任務(wù)以保護(hù)其數(shù)據(jù)和資產(chǎn)。但組織需要意識(shí)到人工智能正被用作威脅行為者破壞長(zhǎng)期安全流程和協(xié)議的新工具或渠道。企業(yè)需要采用人工智能的安全框架、最佳實(shí)踐建議和防護(hù)措施并快速適應(yīng)——以應(yīng)對(duì)人工智能快速發(fā)展帶來(lái)的好處和風(fēng)險(xiǎn)。

更好地了解人工智能輔助威脅與人工智能驅(qū)動(dòng)威脅（Troy Bettencourt，IBM X-Force 全球合作伙伴兼負(fù)責(zé)人）

防范 AI 輔助威脅；為 AI 驅(qū)動(dòng)的威脅做好規(guī)劃。AI 驅(qū)動(dòng)的威脅和 AI 輔助威脅之間存在區(qū)別，包括組織應(yīng)如何考慮其主動(dòng)安全態(tài)勢(shì)。迄今為止，AI 驅(qū)動(dòng)的攻擊（如深度偽造視頻詐騙）一直受到限制；當(dāng)今的威脅仍然主要是 AI 輔助的——這意味著 AI 可以幫助威脅行為者創(chuàng)建現(xiàn)有惡意軟件的變體或更好的網(wǎng)絡(luò)釣魚電子郵件誘餌。為了應(yīng)對(duì)當(dāng)前的 AI 輔助威脅，組織應(yīng)優(yōu)先為自己的 AI 解決方案實(shí)施端到端安全性，包括保護(hù)用戶界面、API、語(yǔ)言模型和機(jī)器學(xué)習(xí)操作，同時(shí)注意防御未來(lái) AI 驅(qū)動(dòng)攻擊的策略。

這些預(yù)測(cè)傳達(dá)出一個(gè)非常明確的信息：了解人工智能如何幫助和傷害一個(gè)組織，對(duì)于確保您的公司及其資產(chǎn)在 2025 年及以后受到保護(hù)至關(guān)重要。