隨著巴以沖突的持續(xù)，相關(guān)新聞事件報道層出不窮，一些虛假內(nèi)容也開始混入其中，讓人真假難辨。最近，由AI生成、反映巴以沖突現(xiàn)場的圖片出現(xiàn)在知名圖片庫 Adobe Stock 中，并被一些新聞媒體采用。

作為一家積極擁抱生成式人工智能的圖片庫，Adobe Stock從2022年開始允許供稿人上傳和銷售由AI 生成的圖片，只是在上傳時要標(biāo)注“是否由 AI 生成”，成功上架后也會將該圖片明確標(biāo)記為“由 AI 生成”。除此要求外，提交準(zhǔn)則與任何其他圖像相同，包括禁止上傳非法或侵權(quán)內(nèi)容。

但據(jù)澳大利亞網(wǎng)站Crikey報道，在Adobe Stock搜索與以色列、巴勒斯坦、加沙和哈馬斯相關(guān)的關(guān)鍵詞，會出現(xiàn)大量由AI生成的圖片，例如搜索巴勒斯坦時顯示的第一個結(jié)果標(biāo)題就是“由人工智能生成的以色列和巴勒斯坦沖突”的圖片。其他一些圖片也顯示了抗議、實地沖突，甚至是兒童逃離爆炸現(xiàn)場的畫面，但所有這些也都是由AI生成。

圖1：在 Adobe Stock 上搜索巴以沖突時會搜索到大量 AI 圖像

令人擔(dān)憂的是，這些圖片已經(jīng)出現(xiàn)在一些在線新聞媒體、博客，但沒有將其標(biāo)記為由人工智能生成，也尚不清楚這些媒體是否知道這些是虛假圖片。

圖2：一些媒體機(jī)構(gòu)在報道巴以沖突新聞時已經(jīng)使用圖1左上角那張由AI生成的圖片

事后，Adobe表示，所有生成式 AI 內(nèi)容在提交許可時都必須貼上相應(yīng)標(biāo)簽，但也強(qiáng)調(diào)，客戶在購買使用時知道“這是一張由生成式 AI 工具創(chuàng)建的圖片”同樣重要。

識別圖片真假是一項復(fù)雜性工作

專家一再警告稱，人工智能將被用來在網(wǎng)上傳播錯誤信息，隨著越來越多看起來逼真的內(nèi)容在互聯(lián)網(wǎng)上發(fā)布和共享，解決這個問題變得越來越困難。

RMIT 高級講師 TJ Thomson 博士正在研究人工智能生成圖像的使用，他表示，人們擔(dān)心人工智能圖像使用的透明度以及受眾是否有足夠的文化知識能夠?qū)ζ溥M(jìn)行識別。

根據(jù)一項被稱為“內(nèi)容真實性計劃”的措施，包括Adobe、微軟、BBC 和《紐約時報》在內(nèi)的科技和新聞組織正在嘗試實施內(nèi)容憑證技術(shù)，該憑證使用文件元數(shù)據(jù)來突出顯示圖片的來源，無論這些圖片是由真人拍攝還是AI生成。

然而，內(nèi)容憑證尚未在實際環(huán)境中部署，需要社交網(wǎng)絡(luò)、出版商、藝術(shù)家以及應(yīng)用程序、瀏覽器和生成人工智能開發(fā)人員的合作才能按預(yù)期工作。