研究表明很多消費者高估了自己對深度偽造的檢測能力
消費者對生成式人工智能的認識度
消費者對生成式人工智能和深度偽造的認識度很高——52%的受訪者認為他們可以檢測到深度偽造的視頻。這一結果反映了消費者的過度自信,因為深度偽造已經達到了肉眼無法識別的復雜程度。
英國金融部門在最近發布的一份研究報告中指出,深度偽造的騙局在2022年給英國造成了1.77億英鎊的損失,這一點令人擔憂。該報告特別指出,由于使用了生成式人工智能工具,導致拼寫錯誤或虛假網站等警告信號不那么顯著,使其騙局變得越來越難以發現,這是造成這種情況的原因。
根據美國聯邦貿易委員會日前發布的數據,美國的消費者在2022年因深度偽造騙局損失了26億美元,高于2021年的24億美元。
深度造假的功能變得越來越強大
Jumio公司的數據表明,在全球各個行業領域,深度偽造的騙局都一直在增長,尤其在支付和加密領域。
Jumio公司的首席技術官Stuart Wells表示,“很多人似乎認為他們可以發現和檢測深度偽造。雖然肯定會發現一些跡象,但深度偽造的功能變得越來越強大,而且在沒有人工智能技術的幫助下,消費者越來越難以發現深度偽造的騙局。”
Wells補充說,“雖然企業將越來越多地需要人工智能技術來發現并保護他們的網絡和客戶免受深度偽造的侵害,但消費者可以通過懷疑對待挑釁性的圖像、視頻和音頻來保護自己。一些快速研究通常會發現這是否是偽造的。”
身份盜竊問題
隨著消費者越來越了解這些技術,人們也越來越了解它們如何被用來助長身份盜竊。
57%的人認為網絡身份盜竊將因此變得更容易,新加坡消費者對其潛在的有害用途的了解程度最高(73%)。而在墨西哥(62%)、美國(49%)和英國(43%)的消費者中的這一比例較低。
Jumio公司的數字身份主管Philipp Pointner表示:“企業有責任讓客戶了解生成式人工智能技術的細微差別,幫助他們對自己檢測深度偽造的能力產生了更現實的期望。
與此同時,即使是最好的網絡教育也永遠無法完全阻止欺詐者使用不斷發展的技術。企業必須考慮實施多模式、基于生物特征的驗證系統,以檢測深度偽造并防止被盜的個人信息被使用。令人鼓舞的是,研究表明,消費者對這種形式的身份驗證有著濃厚的興趣,企業應該迅速采取行動。”
68%的消費者愿意使用數字身份在網上進行驗證。更喜歡數字身份而不是實體身份(例如駕照或護照)的行業是金融服務(43%)、政府(38%)和醫療保健(35%)等行業。