成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

這個對抗算法讓人臉識別算法失靈,還能抵抗微信微博照片壓縮

新聞 人工智能 算法
通過給照片添加肉眼看不出來的對抗性噪聲,來蒙蔽人臉識別AI,達到保護隱私的效果。

本文經AI新媒體量子位(公眾號ID:QbitAI)授權轉載,轉載請聯系出處。

上回書說到,現在,對抗攻擊的理念已經被應用到隱私保護領域:

通過給照片添加肉眼看不出來的對抗性噪聲,來蒙蔽人臉識別AI,達到保護隱私的效果。

這個對抗算法讓人臉識別算法失靈,還能抵抗微信微博照片壓縮

不過,就有好學的同學提出了這樣的疑問,各種App基本都會對圖片重新進行壓縮,那這種照片「隱身衣」不就會因此失效嗎?

這個對抗算法讓人臉識別算法失靈,還能抵抗微信微博照片壓縮
這個對抗算法讓人臉識別算法失靈,還能抵抗微信微博照片壓縮

最近,武漢大學國家網絡安全學院就和Adobe公司合作,針對這個問題進行了研究, 并提出了一種適用于任意壓縮方式的抗壓縮對抗性圖像生成方案

也就是說,這是一身具有抗壓縮能力的照片「隱身衣」。

即使經過處理的照片被社交平臺中各種壓縮算法改造一番,也依然能保持對抗性。比如,在微博上就可以達到90%以上的成功率。

這個對抗算法讓人臉識別算法失靈,還能抵抗微信微博照片壓縮

抗壓縮的照片「隱身衣」

一般來說,添加了微小擾動的對抗性實例,都會受到圖像壓縮方法的影響。

尤其是現在不同社交平臺采用的壓縮方法都是黑盒算法,壓縮方法的變化也給對抗性實例的「抗壓性」帶來了不小的挑戰。

論文一作王志波教授就指出:

在壓縮算法未知或不可微的情況下,生成抗壓縮的對抗性圖像具有很大挑戰性。

為了解決這樣的問題,這項研究提出了抗壓縮對抗框架ComReAdv

這個對抗算法讓人臉識別算法失靈,還能抵抗微信微博照片壓縮

具體而言,方案分為三個步驟。

步驟一:構建訓練數據集

通過上傳/下載的方式,獲取大量原始圖像和對應的壓縮圖像,構建訓練數據集。

步驟二:壓縮近似

利用原始圖像-壓縮圖像對構成的數據集進行監督學習。

研究人員設計了一個基于編碼-解碼的壓縮近似模型,稱為ComModel。該模型被用于學習如何像黑盒壓縮算法一樣轉換圖像,以達到近似壓縮的目的。

這個對抗算法讓人臉識別算法失靈,還能抵抗微信微博照片壓縮

其中,編碼器從原始圖像中提取多尺度特征,如內在紋理和空間內容特征。

對應的,解碼器對壓縮后的對應圖像進行由粗到細的重構,以模仿真實壓縮圖像的壓縮效果。

通過最小化重構圖像和真實壓縮圖像之間的平均絕對誤差(MAE),訓練后的ComModel可作為社交平臺未知壓縮算法的可微近似形式。

步驟三:抗壓縮對抗性圖像生成

構建優化目標,將ComModel融入到對抗性圖像的優化過程中,并使用基于動量的迭代方法(MI-FGSM)進行優化,最終使得生成的對抗性圖像具有較好的抗壓縮能力。

研究人員表示,該方案不需要任何壓縮算法的細節,僅根據適量的原圖和壓縮圖的數據集,便能訓練得到未知壓縮算法的近似形式,并進一步生成相應的抗壓縮對抗性圖像,因此,該方案能應用于所有社交平臺保護用戶隱私。

實驗結果

研究團隊進行了本地仿真測試(JPEG、JPEG2000、WEBP)和真實的社交平臺(Facebook、微博、豆瓣)測試。

這個對抗算法讓人臉識別算法失靈,還能抵抗微信微博照片壓縮

本地仿真測試的結果顯示,ComReAdv這一方法在「抗壓縮」方面超越了SOTA方法,并且,可以有效抵抗不同的壓縮方法,具有可擴展性。

這個對抗算法讓人臉識別算法失靈,還能抵抗微信微博照片壓縮


而真實社交平臺測試的結果也表明,該方法能顯著提高對抗性圖像的抗壓縮能力。

在被不同的壓縮方法壓縮后,誤導Resnet50分類模型的成功率達到了最先進的水平,在微博上可以達到90%以上的成功率。

關于作者

論文一作王志波,是武漢大學國家網絡安全學院教授、博士生導師。

[[338551]]

王志波教授本科畢業于浙江大學信息學院自動化專業,2014年獲美國田納西大學計算機工程博士的學位。

目前的研究方向包括物聯網、移動感知與計算、大數據、網絡安全與隱私保護、人工智能安全。

對于這項研究,王志波教授表示:

我們認為這項技術可以被所有社交網絡用戶采用,來防止分享圖像被非法濫用、識別。當然,模型的抗壓縮能力仍需進一步提高,我們團隊接下來會對此進行更深入的研究。

 

責任編輯:張燕妮 來源: 量子位
相關推薦

2022-07-27 14:26:27

算法服務器

2015-04-16 10:35:08

微博微博如何實現

2012-12-14 08:46:14

微博PageRank算法

2013-08-26 15:21:41

微博微信易信

2021-04-12 10:32:58

人臉識別人工智能數據

2023-05-04 07:27:20

NLP 算法微服務治理

2021-01-10 08:16:25

微信移動應用實用技巧

2013-12-27 15:28:20

微博微信

2013-09-13 13:35:41

微淘微信微博

2022-10-31 08:47:21

人臉識別按鍵鍵盤

2014-08-06 09:08:03

大數據

2021-01-30 07:51:59

微信微信8.0騰訊

2020-09-07 14:00:23

騰訊微博微信互聯網

2013-08-19 14:46:00

微博微信催眠術

2020-07-23 15:47:24

人臉識別人工智能數據

2019-11-08 10:48:07

Windows操作系統微信Windows 10

2014-05-04 13:39:15

人臉識別算法

2013-08-08 10:13:25

微信

2018-01-31 14:11:31

微信紅包隨機

2014-10-10 15:16:38

HipHop數據挖掘
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 久久久国产一区二区三区四区小说 | 欧美福利三区 | 精品无码久久久久久久动漫 | 三级视频在线观看 | 国产一级毛片视频 | 99re国产精品 | 国产一级片免费看 | 国产精品污污视频 | 国产精品久久二区 | 国产精品自拍视频 | 精品1区 | 国产日韩精品一区二区 | 欧美性猛交一区二区三区精品 | 免费的av网站 | 日日骚av | 精品一区二区三区免费视频 | 亚洲一区自拍 | 日本精品一区二区三区在线观看 | 日本视频中文字幕 | 国产 欧美 日韩 一区 | 伊人青青久久 | 国产不卡在线播放 | 一区二区免费 | av天天看| 一区二区欧美在线 | 精品国产免费一区二区三区演员表 | 欧美精品99| www.亚洲精品 | 亚洲va中文字幕 | 国产欧美日韩 | 国产中文字幕网 | 欧美一级黄色片免费观看 | 在线观看视频一区二区三区 | 午夜影院视频在线观看 | 精品一区二区久久久久久久网站 | 亚洲国产成人精品久久 | 亚洲成人精品久久久 | 欧美韩一区二区 | 欧美日韩亚洲国产综合 | 久一精品 | 国产亚洲精品91 |