人工智能（AI）有可能改變社會的本質。雖然人工智能工具給我們帶來了很多的期待，但同時也需要在很多方面提高警惕。例如，網絡犯罪分子和其他威脅行為者將人工智能武器化，即使是AI圖像生成器也不能幸免于濫用。

什么是 AI 圖像生成器？它們是如何工作的？ 如果您曾經使用過AI圖像生成器，那么非常清楚它們的全部內容。即使從未使用過，也很可能在社交媒體和其他地方遇到過人工智能生成的圖像。今天流行的軟件工作原理非常簡單：用戶輸入文本，人工智能根據該文本生成圖像。

近年來，隨著人工智能技術的發展，大多數文本到圖像生成器采用擴散模型，這意味著他們在大量的文本和圖像上接受了長時間的“訓練”，這是他們作品如此令人印象深刻和令人驚嘆的逼真的主要原因。

讓這些人工智能工具更令人印象深刻的是，它們不僅修改現有圖像或將數千張圖像合并為一個，而且還從頭開始創建新的原始圖像。使用這些文本到圖像生成器的人越多，他們獲得的信息就越多，他們的創作就越好。

目前已經有很多著名的AI圖像生成器：WOMBO、DALL-E、Stable Diffusion、Midjourney、DeepAI、Fotor和Craiyon。科技巨頭——包括谷歌正在發布自己的，所以我們只能推測未來會帶來更多的價值。

威脅行為者將 AI 圖像生成器武器化的 4 種方式

像幾乎所有技術一樣，人工智能圖像生成器也可能被惡意行為者濫用。實際上，它們已經被用于各種邪惡的目的。但是，犯罪分子究竟可以在AI圖像生成器的幫助下進行哪種類型的詐騙？

1、社會工程

威脅者能夠使用AI圖像生成器做的一件明顯的事情是參與社會工程；例如，創建虛假的社交媒體資料。其中一些程序可以創建令人難以置信的逼真圖像，看起來就像真人的真實照片，詐騙者可以使用這些虛假的社交媒體資料進行網絡釣魚。

與真人的照片不同，人工智能生成的照片無法通過反向圖像搜索發現，網絡犯罪分子不必使用有限數量的照片來欺騙目標——使用 AI，他們可以生成任意數量的照片，從頭開始構建令人信服的在線身份。

但是，在現實生活中，威脅者可以使用AI圖像生成器來欺騙人們。2022年4月， 技術講座博主本·迪金森（Ben Dickinson）收到了一封來自律師事務所的電子郵件，聲稱他在未經許可的情況下使用了圖像。律師們通過電子郵件發送了一份DMCA版權侵權通知，告訴迪金森他需要鏈接回他們的客戶，或者刪除圖像。

迪金森在谷歌上搜索了這家律師事務所，找到了官方網站。這一切似乎都是完全合法的；該網站甚至有18名律師的照片，包括他們的傳記和證書。但這一切都不是真實的。這些照片都是由人工智能生成的，所謂的版權侵權通知是由一個希望從毫無戒心的博主那里勒索反向鏈接的人發出的。

2、慈善詐騙

2023 年 2 月土耳其和敘利亞發生毀滅性地震時，全世界數百萬人通過捐贈衣服、食物和金錢來表達對受害者的聲援。

根據一份英國廣播公司的報告，詐騙者利用這一點，使用人工智能創建逼真的圖像并募集捐款。一名騙子在 TikTok Live 上展示了人工智能生成的廢墟圖像，要求他們的觀眾捐款。另一個人發布了一張人工智能生成的圖像，其中一名希臘消防員從廢墟中救出一名受傷的孩子，并要求他的追隨者進行捐款。

人們只能想象犯罪分子將來會在人工智能的幫助下運行哪種類型的慈善詐騙，但可以肯定的是，他們只會更好地濫用該軟件。

3、深度偽造和虛假信息

政府、活動團體和智庫長期以來一直警告深度偽造的危險AI 圖像生成器，這是因為什么也不能阻止虛假信息代理人在機器人的幫助下創建虛假圖像并在社交媒體上推廣它。

根據美國國家公共廣播電臺的消息，2022 年 3 月，當時一段描繪烏克蘭總統告訴烏克蘭人投降的假視頻在網上流傳。雖然這只是一個例子，但可能性幾乎是無窮無盡的，而且威脅者可以通過無數種方式損害某人的聲譽，宣傳虛假敘述或在人工智能的幫助下傳播假新聞。

4、廣告欺詐

趨勢科技研究人員在 2022 年發現，詐騙者正在利用人工智能生成的內容制作誤導性廣告，并推廣陰暗的產品。他們創建了建議流行名人使用某些產品的圖片，并根據這些圖片開展廣告活動。

例如，一則“財務咨詢機會”廣告以特斯拉創始人兼首席執行官為主角。當然，馬斯克從未認可過有問題的產品，但人工智能生成的鏡頭讓它看起來像這樣，大概是引誘毫無戒心的觀眾點擊廣告。

人工智能和網絡安全：我們需要解決的復雜問題

展望未來，政府監管機構和網絡安全專家可能必須共同努力，應對人工智能驅動的網絡犯罪這一新出現的威脅。但是，我們如何才能在不扼殺創新和限制數字自由的情況下監管人工智能并保護普通人呢？這個問題將在未來幾年內變得突出。

在得到答案之前，請盡你所能保護自己：仔細審查你在網上看到的任何信息，避免使用可疑的網站，使用安全軟件，讓你的設備保持最新，并學會使用人工智能來發揮你的優勢。

原文標題：AI Image Generators: An Emerging Cybersecurity Threat

原文作者：DAMIR MUJEZINOVIC