多數人自信辨真偽，然而深度偽造的興起卻令此能力或許愈發困難。

深度偽造(Deepfake)是由人工智能（AI）創建的數字內容，可涵蓋音頻、視頻及靜態圖像，看似真實無比。其常將人物描繪出不實言行。網絡安全專家和技術專家越來越多地警告說，這些內容可能被用于各種惡意方式，包括欺詐計劃或傳播錯誤信息。

IDENTIFYING RISKS

關于深度偽造的興起，專家們警告的一個重點領域是名人和政界，但攻擊也可能針對個人。

IEEE會員Rebecca Herold分享了一則軼事，說明了深度偽造的風險。Herold說：“我的一個朋友出差時接到了妻子的電話。她非常沮喪，抽泣著告訴他自己出了事故，身上沒有錢叫拖車。我朋友幾乎完全相信了這個電話，這聽起來就是他妻子的聲音。但當這個朋友告訴妻子需要給拖車公司電匯，掛了電話后，他又撥通了妻子的電話號碼 —— 他說他差點就被騙了，聲音非常真實，然而，他的妻子很安全。”

HOW MANY FINGERS AM I HOLDING UP?

雖然深度偽造可以令人難以置信地信服，但它們往往有著微妙的線索表明它們可能不是真的。

IEEE會員Yale Fox表示：“目前，深度偽造與真實視頻并非完全無法區分，但我們正在逐漸接近。大多數人仍然可以識別深度偽造視頻。”

? 人工智能在創造他人的正面形象方面變得非常出色。然而，他們在細節方面仍然存在問題，比如人們從側面和背面看的樣子。一定要從各個角度觀察圖像。深度偽造的照片和視頻往往比人類實際擁有的牙齒多得多。如果有人在微笑或露出牙齒，請仔細觀察一下。

? 深度偽造的照片和視頻也經常給人們太多或太少的手指。注意計算照片或視頻主題上有多少手指。

? 深度偽造在人物的側面和角度視圖方面也存在問題。如果你通過直播視頻與某人交流，并且你認為這是一個深度偽造的視頻，請他們看向側面，或者問他們一個會讓他們轉頭的問題，比如“嘿，我喜歡你身后墻上的那幅畫。這是哪位藝術家的？”

? 深度偽造的照片和視頻通常包含不一致的地方，如光線、反射和陰影。

? 深度偽造的視頻通常包含快速但不自然的動作。例如，尋找/不尋常的急動或似乎在時間上的跳躍。

? 深度偽造音頻通常帶有一點不自然或不一致的音頻質量，這種情況或偶爾出現。

A RACE FOR NEW TECHNOLOGY

深度偽造可能造成社會危害，這引發了政府、大學和私營企業對檢測工具的研究浪潮。

一些技術評估可疑內容本身。例如，一些工具可能會評估人臉上的血流，尋找不自然的混合或模糊狀態。或者觀察一個人眼睛的反射，看看它是否與周圍環境相匹配，以此作為真實性的指標。IEEE信號處理協會主辦的一次全面討論展示了其中一些技術在實踐中的應用。

其他工具可能會評估文件的元數據是否存在操作跡象。

IEEE高級會員Kayne MGladrey表示：“同樣，產生深度偽造的威脅參與者可能會從檢測算法中學習，并相應地調整自己的技術。這里至關重要的是，視頻和音頻內容的主要分銷商投資大規模部署這些解決方案，以防止錯誤信息或虛假信息的傳播。”