由于人工智能技術不斷發展，深度偽造（Deepfake）也越來越難以發現。這對依賴于任何形式個人圖像的可信身份驗證都構成了嚴重的問題。然而，一些應對Deepfake威脅的方法顯示出希望。

Deepfake是“深度學習”和“偽造”的組合，可以進行任何以欺騙方式編輯的照片、視頻或音頻。第一個Deepfake可以追溯到1997年，當時一個名為Video Rewrite的項目證明，可以重新激活某人面部的視頻，并發表來自別人編造的語言。

早期的Deepfake需要用戶具備相當高的技術水平，但到2025年，情況將不再如此。得益于生成式人工智能技術，如創建圖像的擴散模型和使圖像看起來更可信的生成式對抗網絡（GAN），現在任何人都可以使用開源工具進行Deepfake。

高精度Deepfake工具的易用性對隱私和安全造成了嚴重影響。當Deepfake技術被用來制造假新聞、惡作劇、兒童性虐待材料和復仇色情等東西時，社會會受到影響。美國國會和幾個州立法機構提出了幾項法案，將以這種方式使用技術定為刑事犯罪。

對金融世界的影響也相當顯著，這在很大程度上是因為我們對關鍵服務的身份驗證有多么依賴，比如開立銀行賬戶或取款。雖然使用面部識別等生物識別身份驗證機制可以比密碼或多因素身份驗證（MFA）方法提供更大的保證，但現實情況是，任何部分依賴圖像或視頻來證明個人身份的身份驗證機制都很容易被Deepfake欺騙。

欺詐者很容易拿起Deepfake工具。Signicat最近的一項研究發現，2024年，6.5%的欺詐企圖使用了Deepfake，高于2021年的不到1%，同比增長了2100%以上。報告發現，在同一時期，欺詐行為總體上增長了80%，而身份欺詐行為增長了74%。

Consult Hyperion首席執行官Steve Pannifer和全球大使David Birch在題為“對抗人工智能驅動的身份欺詐”的Signicat報告中寫道：“人工智能將以前所未有的規模實現更復雜的欺詐。欺詐可能會更成功，即使成功率保持穩定，純粹的嘗試量（上升）也意味著欺詐水平將爆發。”

Deepfake帶來的威脅不是理論上的，欺詐者目前正在“追捕”大型金融機構。金融服務信息共享和分析中心的185頁報告中列舉了許多騙局。

例如，2023年5月五角大樓發生爆炸的假視頻導致道瓊斯指數在四分鐘內下跌了85點。還有一個有趣案例，即有人偽造了身份證件，并在2024年7月欺騙了黑客Kevin Mitnick（于2023年去世）共同創立的安全意識公司KnowBe4，該公司雇用了他（或她）。KnowBe4在其博客文章中寫道：“如果它能發生在我們身上，它幾乎可以發生在任何人身上。”“別讓它發生在你身上。”

然而，最著名的Deepfake事件可以說發生在2024年2月，當時香港一家大型公司的一名財務人員與欺詐者進行虛假視頻通話討論資金轉移時被騙。Deepfake的視頻看上去非常可信，員工給他們電匯了2500萬美元。

iProov的首席科學官Andrew Newell說，每天都有數百次深度偽造攻擊。Newell說：“威脅行為者采用各種工具的速度確實非常快。”。

iProov在過去兩年中看到的最大轉變是Deepfake攻擊的復雜性。以前，利用Deepfake“需要相當高的專業水平才能推出，這意味著僅有少數人可以做到，但它們相當罕見”“有一類全新的工具使這項工作變得非常容易。你可以在一個小時內啟動并運行。”

iProov開發了生物識別認證軟件，旨在應對遠程在線環境中Deepfake日益增長的有效性。對于風險最高的用戶和環境，iProov在登錄時使用專有的閃光標記技術。通過將用戶設備上的不同顏色的燈閃爍到他或她的臉上，iProov可以確定個人的“活躍度”，從而檢測面部是真實的、深度偽造的還是面部交換的。

Newell說，這一切都是為了在潛在的深度偽造欺詐者面前設置障礙。

他說：“你要做的是確保你有一個盡可能復雜的信號，同時讓終端用戶的任務盡可能簡單。”“光線從臉上反射的方式非常復雜。而且因為顏色的順序實際上每次都會改變，這意味著如果你試圖偽造它，你必須幾乎實時地偽造它。”

身份驗證公司AuthID在身份驗證過程中使用各種技術來檢測個人的活躍度，以抵御Deepfake演示攻擊。

該公司在其白皮書《Deepfake Counter Measures 2025》中寫道：“我們從被動活體檢測開始，實時確定身份證和攝像頭前的人是否真實存在。我們檢測打印輸出、屏幕回放和視頻。”“最重要的是，我們的市場領先技術可以檢測Deepfake中存在的可見和不可見偽影。”

擊敗“注射”攻擊（繞過攝像頭，將假圖像直接插入計算機）更難。AuthID使用多種技術，包括確定設備的完整性、分析圖像以尋找制造跡象，以及尋找異常活動，例如驗證到達服務器的圖像。

該公司在白皮書中寫道：“如果（圖片）顯示時沒有正確的憑證，可以說，它是無效的。”“這意味著前端和后端之間的某種協調。服務器端需要知道前端正在發送什么，并帶有一種簽名。這樣，最終的有效載荷就會帶有一個批準標記，表明其合法來源。”

未來，能夠實現深度偽造攻擊的人工智能技術有望得到改進。這給公司帶來了壓力，要求他們現在采取措施加強身份驗證過程，否則就有可能讓壞人進入他們的運營。