近日，一項英國研究揭示了AI虛假信息的潛在威脅，它可能輕松引發銀行客戶的恐慌，甚至導致銀行擠兌事件。這一發現為金融機構敲響了警鐘，提醒它們必須重視并防范這一新型風險。

英國研究機構“對虛假信息說不”(Say No To Disinfo)與通信專家公司費尼莫爾·哈珀(Fenimore Harper)合作，模擬了一場由AI驅動的虛假信息宣傳活動。作為活動的一部分，英國500名銀行客戶接觸到了有關其金融機構的合成“謠言”。

此次模擬的動機是為了確定基于GenAI的虛假新聞宣傳活動未來是否會引發“銀行擠兌”——如美國硅谷銀行所遭遇的情況。

研究結果凸顯了AI在這一領域的潛在威脅：

• 接觸虛假新聞的受訪者中，近61%的人基本上愿意從相關銀行撤資。
• 略超過33%的受訪者認為這“非常有可能”，另有27%認為“可能”。
• 根據研究，若以財務支出計算，投資10英鎊(約合13美元)用于AI內容生成就足以“轉移”價值100萬英鎊的資產。

“借助AI工具，我們生成了虛假的新聞標題，其敘事旨在利用現有的恐懼和偏見。核心信息是：‘客戶資金不安全。’”研究人員解釋說。

根據他們的報告，專家主要使用短信息服務X來大量傳播相應的帖子和模因。

“鑒于虛假信息宣傳活動可以如此迅速、輕松且廉價地有效發起，金融部門必須做好準備，”研究人員警告說。然而，不幸的是，銀行往往缺乏相應的專業人才：“金融機構在應對客戶信任映射、惡意行為者映射或戰爭博弈時，往往是被動反應，而非主動出擊。”

金融機構必須解決這類基于AI的宣傳活動所帶來的風險，這至關重要：“那些只關注網絡威脅而忽視影響力操作所帶來風險的銀行”正在制造一個嚴重的安全漏洞，研究人員表示。