奮力反擊深度偽造的五個(gè)有效措施

作者：布加迪 2025-01-24 08:00:00

公司企業(yè)正在竭力跟上網(wǎng)絡(luò)犯罪分子不斷創(chuàng)新的步伐。據(jù)本人所在公司VikingCloud的報(bào)告顯示，53%的公司承認(rèn)自己沒(méi)有準(zhǔn)備好防御新的基于人工智能的網(wǎng)絡(luò)攻擊方法。

譯者 | 布加迪

審校 | 重樓

隨著深度造假日益猖獗，技能方面的缺口正在進(jìn)一步拉大，造成了新的準(zhǔn)備不足和風(fēng)險(xiǎn)。

作為網(wǎng)絡(luò)犯罪分子手中最有力的新武器，深度偽造可以冒充從總統(tǒng)候選人到公司高管的任何人。它們可以散布錯(cuò)誤信息或傳播高價(jià)值的欺詐騙局。而且它們正變得更難被發(fā)現(xiàn)，更容易被開(kāi)發(fā)。

為了保護(hù)所在組織，企業(yè)領(lǐng)導(dǎo)者必須重新考慮自己的網(wǎng)絡(luò)培訓(xùn)和防御方法。面對(duì)在人工智能優(yōu)先的網(wǎng)絡(luò)安全環(huán)境中新的需求，這將是事關(guān)生存和發(fā)展的首要任務(wù)。

深度偽造泛濫的原因

深度偽造依賴社會(huì)工程伎倆，利用人類情感來(lái)引發(fā)它們想要的反應(yīng)。

如果一名員工收到老板的電子郵件，要求他轉(zhuǎn)賬，該員工很可能已經(jīng)受過(guò)學(xué)會(huì)識(shí)別騙局的培訓(xùn)。但是當(dāng)員工接到有“老板聲音”的電話，或者在Zoom通話時(shí)“看到”老板，又會(huì)發(fā)生什么？黑客的這種老練程度讓員工放松了警惕。

最近一名財(cái)務(wù)人員深有體會(huì)，他上當(dāng)受騙，向冒充其公司首席執(zhí)行官的騙子轉(zhuǎn)賬2500萬(wàn)美元。這名員工起初懷疑這是網(wǎng)絡(luò)釣魚騙局，但在與其他公司員工通了電話后放心下來(lái)，殊不知這全是深度偽造的內(nèi)容。

這一幕可能發(fā)生在任何公司身上，包括法拉利。這家公司差點(diǎn)成為深度偽造欺詐的受害者，原因是被盯上的精明高管問(wèn)了騙子一個(gè)只有真正的首席執(zhí)行官在線下對(duì)話中才能知道的問(wèn)題。而其他公司就沒(méi)這么幸運(yùn)了。英國(guó)一家能源公司的首席執(zhí)行官被一名騙子利用人工智能模仿其母公司首席執(zhí)行官的聲音，騙走了22萬(wàn)歐元（約合23.8萬(wàn)美元）。

問(wèn)題在于，深度偽造被設(shè)計(jì)成用戶使用生成式對(duì)抗網(wǎng)絡(luò)（GAT）都無(wú)法檢測(cè)出來(lái)。在GAN中，一個(gè)人工智能模型生成虛假的圖像或音頻，另一個(gè)模型檢測(cè)它是否真實(shí)。人工智能模型之間這種貓捉老鼠的游戲一直持續(xù)下去，直到虛假內(nèi)容與現(xiàn)實(shí)無(wú)從區(qū)分，這有助于犯罪分子繞過(guò)其他人工智能檢測(cè)系統(tǒng)。

當(dāng)深度偽造內(nèi)容抵達(dá)目標(biāo)時(shí)，已經(jīng)經(jīng)歷了數(shù)千次迭代，變得盡可能強(qiáng)大。結(jié)果是：深度偽造的開(kāi)發(fā)者與試圖阻止它們的人之間上演了一場(chǎng)軍備競(jìng)賽。

更糟糕的是什么？如今，只要有一臺(tái)基本的游戲電腦，誰(shuí)都可以制作深度偽造內(nèi)容。犯罪分子不需要特殊的技術(shù)或?qū)?/span>長(zhǎng)，影響卻巨大。僅在2023年下半年，換臉攻擊就猛增704%。隨著網(wǎng)絡(luò)犯罪分子的進(jìn)入門檻不斷放低，這個(gè)問(wèn)題的嚴(yán)重性會(huì)繼續(xù)加大。

如何防范深度造假？

隨著深度造假技術(shù)日益興起，公司企業(yè)須加強(qiáng)防御基于人工智能的攻擊的能力。以下是奮力反擊的五個(gè)基本步驟：

1. 別信任保密和緊迫的請(qǐng)求。強(qiáng)調(diào)保密和緊迫性的請(qǐng)求是危險(xiǎn)信號(hào)。培訓(xùn)員工學(xué)會(huì)質(zhì)疑溝通內(nèi)容（比如電子郵件和視頻電話等）是否符合正常的公司流程，并驗(yàn)證來(lái)自多個(gè)可信來(lái)源的信息。別害怕請(qǐng)求授權(quán)，即使提出請(qǐng)求的對(duì)方是更高層。人是網(wǎng)絡(luò)安全中最薄弱的環(huán)節(jié)。隨著這種攻擊變得越來(lái)越復(fù)雜，并利用社會(huì)工程伎倆，它們會(huì)繼續(xù)存在。

2. 加強(qiáng)身份驗(yàn)證流程。簡(jiǎn)單的電話、電子郵件或人臉識(shí)別不再是可信賴的身份驗(yàn)證機(jī)制。實(shí)施額外的安全流程，比如多因素身份驗(yàn)證。此外，使用私密的、可驗(yàn)證的信息。想想那位法拉利高管如何利用線下談話中獲悉的私密信息。深度偽造永遠(yuǎn)接觸不到這種信息。

3. 將深度偽造緩解機(jī)制整合到安全策略中。整合深度偽造檢測(cè)技術(shù)，建立快速識(shí)別和響應(yīng)流程。深度偽造檢測(cè)工具使用人工智能來(lái)發(fā)現(xiàn)被操縱媒體中細(xì)微的不一致之處，比如面部運(yùn)動(dòng)的不規(guī)則性或可能逃過(guò)人類檢測(cè)的像素偽像。除了技術(shù)外，還必須定期更新安全策略以應(yīng)對(duì)最新的深度偽造威脅，員工應(yīng)該接受持續(xù)培訓(xùn)，以有效識(shí)別和應(yīng)對(duì)潛在的攻擊。

4. 執(zhí)行紅隊(duì)測(cè)試。讓紅隊(duì)充分利用深度偽造工具來(lái)測(cè)試公司的防御。這有助于識(shí)別安全流程方面的弱點(diǎn)，這樣企業(yè)領(lǐng)導(dǎo)者可以更好地教育員工如何發(fā)現(xiàn)和應(yīng)對(duì)潛在的威脅。

5. 仔細(xì)篩選供應(yīng)商。網(wǎng)絡(luò)犯罪分子通常將第三方供應(yīng)商和平臺(tái)視為伺機(jī)潛入大組織的一條途徑。到2031年，供應(yīng)鏈網(wǎng)絡(luò)攻擊給公司企業(yè)造成的年度成本預(yù)計(jì)將達(dá)到1380億美元。確保所有供應(yīng)商都采取了措施，以保護(hù)自己免受深度偽造和其他基于人工智能的攻擊。及早發(fā)現(xiàn)是關(guān)鍵。第三方系統(tǒng)的漏洞很容易演變成更大范圍的網(wǎng)絡(luò)攻擊。

未來(lái)前瞻

向企業(yè)領(lǐng)導(dǎo)者傳達(dá)的信息很明確：人工智能深度偽造的威脅是切實(shí)存在的，而且愈演愈烈。

如果合適的防御機(jī)制到位：警惕、先進(jìn)的身份驗(yàn)證流程，及時(shí)更新的安全策略以及徹底的供應(yīng)商篩選，企業(yè)領(lǐng)導(dǎo)者可以保護(hù)其組織避免成為下一個(gè)受害者，就有可能在這場(chǎng)高風(fēng)險(xiǎn)的軍備競(jìng)賽中智勝網(wǎng)絡(luò)犯罪分子。