FBI近日警告稱，惡意行為者制作深度虛假內容來實施性勒索攻擊的趨勢正在上升。

性勒索是網絡勒索形式的其中一種，這些惡意行為者通過公開泄露竊取或脅迫獲得的露點圖像和視頻，來威脅他們的目標，通常是要求這些受害者支付封口費。

在許多性勒索案件中，那些泄露的內容其實并非真實影像，威脅行為者只是假裝自己有訪問權限，以達到最終勒索贖金的目的。

FBI警告說，性勒索者現在正在收集他們勒索目標的公開圖像，比如發布在社交媒體平臺上的無害圖片和視頻。然后將這些圖像輸入深度偽造內容創建工具，將其轉化為人工智能生成的露骨色情內容。

雖然制作的圖像或視頻都不是真實的，但它們看起來非常真實，威脅行為者只要將這些材料發送給勒索目標的家人，同事等，極可能給受害者帶來巨大的個人和聲譽傷害。

截至2023年4月，FBI發現性勒索受害者報告使用虛假圖像或視頻的情況有所增加，而這些圖像或視頻均是基于他們在社交媒體網站或網頁上發布的內容創建的，或者是在視頻聊天中捕獲的。

根據最近的受害者報告，惡意行為者通常要求：

• 付款(如金錢、禮品卡)，并威脅如果未收到資金，將圖像或視頻分享給家人或社交媒體朋友；
• 受害者發送真實的性主題圖片或視頻；

FBI表示，有一些勒索者會跳過勒索部分，直接將制作好的視頻發布到色情網站，在受害者不知情或未經其同意的情況下，將受害者暴露在大量觀眾面前。

在某些情況下，性勒索者還會利用這些公開上傳的內容來增加受害者的壓力，要求其支付從網站上刪除發布的圖像/視頻的費用。

FBI報告稱，不幸的是這種媒體操縱活動也影響到了未成年人。

如何保護自己

強大的人工智能內容創建工具正在高速迭代，提供便利的同時也為所有互聯網用戶創造了一個充滿敵意的環境，尤其是那些敏感類別的用戶。

比如，通過GitHub有多個免費的內容創建工具項目，它可以從目標面部的單個圖像創建逼真的視頻，不需要額外的訓練或數據集。

這些工具中有許多都內置了防止濫用的保護措施，但那些在地下論壇和暗網市場上出售的工具卻沒有。

暗網上提供的色情創作工具（來源：卡巴斯基）

FBI建議父母監控孩子的在線活動，并告訴他們在線分享個人信息的風險。此外，家長最好隔一段時間就在網上搜索一次，以確定他們的孩子在網上的曝光量，并在必要時采取行動刪除內容。

在網上發布圖片或視頻的成年人應該限制在一個小的私人朋友圈內觀看，以減少曝光。同時，孩子的臉應該盡量模糊處理。

最后，如果你在色情網站上發現了與你相關的AI虛假合成內容，請向有關部門報告，并聯系托管平臺，要求刪除違規媒體。

英國最近以《在線安全法案》(Online Safety Bill)修正案的形式引入了一項法律，將未經同意分享深度造假的行為正式列為一種犯罪行為。