人工智能技術“出圈”后，越來越多網絡攻擊者對生成人工智能工具表現出極大“興趣”。從 Bleeping Computer 網站披露的信息來看，暗網市場目前有數十萬個 OpenAI 證書待售。

據悉，技術不熟練和經驗豐富的網絡犯罪分子都可以使用這些工具，創建更具誘惑力的釣魚電子郵件（電子郵件可以為目標專門定制），以增加網絡攻擊成功的機會。

黑客大面積入侵 GPT AI

Flare 的安全研究人員在分析暗網論壇和市場時注意到，OpenAI 證書是最新待售的商品之一， 目前可以確定了約有 20 多萬個 OpenAI 證書以竊取日志的形式在暗網上出售。 雖然這一數字與 OpenAI 1 月份 1 億活躍用戶相比，似乎微不足道，但也能說明網絡攻擊者“看到”了生成式人工智能工具蘊藏的破壞力。

2023 年 6 月，網絡安全公司 Group IB 在一份報告中指出超過101100個被泄露的 OpenAI ChatGPT 賬戶憑證在非法的暗網市場上待售。 可見許多網絡犯罪分子都盯上了人工智能，甚至有一網絡攻擊者還開發了一個名為 WormGPT 的盜版 ChatGPT，并對其進行了針對惡意軟件的數據訓練， 該工具也被被宣傳為“黑帽的最佳 GPT 替代品”。

1689832963_64b8ce034a71d1eecf7e5.png!small?1689832964604

網絡犯罪論壇上推廣 WormGPT 工具

WormGPT 主要依賴 2021 年推出的 GPT-J 開源大型語言模型，以此來生成類人文本，其開發人員表示在不同的數據集上訓練了該工具，重點是惡意軟件相關數據，但沒有提供有關具體數據集的提示。

WormGPT 顯示了 BEC 攻擊的潛力

電子郵件安全提供商 SlashNext 訪問了 WormGPT，并進行了一些測試以確定其潛在危險。研究人員指出在一項實驗中，指示 WormGPT 生成一封電子郵件，旨在向毫無戒心的客戶經理施壓，迫使其支付欺詐發票。 結果，WormGPT 生成的電子郵件不僅極具說服力，而且在戰略上非常狡猾，完美展示了其在復雜的網絡釣魚和 BEC 攻擊中的潛力。

1689833297_64b8cf51224dc7d2b0ad2.png!small

WormGPT 為 BEC 攻擊生成的內容 來源：SlashNext

通過分析生成的信息，SlashNext 的研究人員發現了生成式人工智能工具 WormGPT 除了能夠生成 "無懈可擊的語法 "的信息外，還能夠使技術水平較低的攻擊者實施超出其水平的攻擊。

最后，研究人員指出盡管抵御這種威脅可能比較困難，但是并非不能防御。企業可以通過培訓員工如何驗證要求緊急關注的郵件（尤其是含有金融內容的郵件）、改進電子郵件驗證流程，或標記出通常與 BEC 攻擊相關的關鍵字。