今年2月，美國(guó)人工智能巨頭企業(yè)OpenAI再推行業(yè)爆款Sora，將之前ChatGPT以圖文為主的生成式內(nèi)容全面擴(kuò)大到視頻領(lǐng)域，引發(fā)了全球熱議，這也是OpenAI首次進(jìn)軍人工智能視頻生成領(lǐng)域。

據(jù)公司介紹，Sora使用Transformer架構(gòu)，可根據(jù)文本指令創(chuàng)建近似現(xiàn)實(shí)且富有想象力的場(chǎng)景，生成多種風(fēng)格、不同畫(huà)幅、最長(zhǎng)為一分鐘的高清視頻。該模型還能夠根據(jù)靜態(tài)圖像生成視頻，或?qū)ΜF(xiàn)有視頻進(jìn)行擴(kuò)展或填充缺失的幀。

根據(jù)官方釋出的樣例，由Sora生成的視頻近乎突破了人類(lèi)肉眼識(shí)別真假事物的極限，除去一些可通過(guò)后期算法優(yōu)化的邏輯性錯(cuò)誤，在場(chǎng)景的還原程度上已經(jīng)高度接近現(xiàn)實(shí)中的實(shí)拍畫(huà)面。

這無(wú)疑引發(fā)影視內(nèi)容創(chuàng)作行業(yè)的震蕩，僅問(wèn)世兩天，就讓主營(yíng)圖像處理、視頻制作軟件的Adobe股價(jià)應(yīng)聲下跌超過(guò)7%，不少影視從業(yè)人員開(kāi)始擔(dān)心日后飯碗不保。但如同ChatGPT一樣，人們?cè)趽?dān)心被AI取代的同時(shí)，其“雙刃劍”效應(yīng)在迅速放大并引起了各方重視，無(wú)疑，在安全風(fēng)險(xiǎn)方面，Sora又是一針大劑量催化劑。

Sora 根據(jù)文本提示生成了一段以這位女性為主角的視頻

Sora加劇“深度偽造”憂慮

嚴(yán)格來(lái)說(shuō)，深度偽造并非AI時(shí)代的專(zhuān)屬詞匯，從早年間看似拙劣的換臉視頻開(kāi)始，深度偽造作為一項(xiàng)快速發(fā)展的技術(shù)，也在為人類(lèi)敲響警鐘。當(dāng)AI時(shí)代來(lái)臨，看似有意或無(wú)意的深度偽造視頻將為人類(lèi)認(rèn)知帶來(lái)巨大沖擊。

“這一定是AI做的”

當(dāng)你對(duì)一段真實(shí)拍攝的視頻內(nèi)容提出疑問(wèn)，你可以不經(jīng)思考地“甩鍋”給AI：“這一定是用Sora生成的”；而一段確實(shí)是用AI生成的某政客演講視頻，你卻為之鼓舞并投出選票。這樣的場(chǎng)景，正是基于深度偽造對(duì)人類(lèi)認(rèn)知造成的紊亂。加利福尼亞大學(xué)伯克利分校信息學(xué)院副院長(zhǎng)法里德甚至表示：“當(dāng)新聞、圖像、音頻、視頻——任何事情都可以偽造時(shí)，那么在那個(gè)世界里，就沒(méi)有什么是真實(shí)的。”

這并非杞人憂天的說(shuō)法，雖然Sora生成的缺陷視頻仍被一些媒體放大當(dāng)作“樂(lè)子“，但不可否認(rèn)，Sora的出現(xiàn)讓人們意識(shí)到AI深度偽造視頻進(jìn)步飛快，已經(jīng)接近了真假難辨的程度。這種顧名思義的認(rèn)知正在網(wǎng)絡(luò)媒介中潛移默化，擾亂大眾對(duì)視頻內(nèi)容真實(shí)性的判斷。前陣子在海外社交圈瘋傳的威爾·史密斯狂吃意大利面的視頻無(wú)疑就是這一現(xiàn)象的生動(dòng)詮釋?zhuān)?huà)面中所謂時(shí)隔1年的AI生成的史密斯在真實(shí)程度上已經(jīng)天差地別，眾多網(wǎng)友為此感嘆AI的逼真，并對(duì)此深信不疑，但事實(shí)卻是“高度逼真”的史密斯就是由本人親自出鏡拍攝。

威爾·史密斯吃意大利面的AI視頻與實(shí)際的真人視頻

如果說(shuō)之前ChatGPT編織的虛假文本無(wú)法眼見(jiàn)為實(shí)，那么，當(dāng)Sora加入唱起雙簧，這種對(duì)大眾認(rèn)知的紊亂所產(chǎn)生的負(fù)面效果不言而喻，能夠被濫用于造假、欺騙，甚至顛覆人們對(duì)現(xiàn)實(shí)的認(rèn)知，產(chǎn)生的信任危機(jī)將損害社會(huì)的各行各業(yè)。

濫用導(dǎo)致的安全危機(jī)

近年來(lái)，利用深度偽造的網(wǎng)絡(luò)犯罪活動(dòng)時(shí)有發(fā)生，就在Sora誕生前夕，中國(guó)香港就發(fā)生了當(dāng)?shù)仄駷橹挂?guī)模最大的一起利用AI深度偽造實(shí)施的詐騙活動(dòng)。

據(jù)香港媒體介紹，某跨國(guó)公司香港分行職員在1月中收到該公司英國(guó)總部首席財(cái)務(wù)官的信息，聲稱(chēng)要進(jìn)行機(jī)密交易，并分別邀請(qǐng)?jiān)摴緮?shù)名財(cái)務(wù)職員進(jìn)行多人的視頻會(huì)議。由于對(duì)方各人在會(huì)議內(nèi)均顯示了與現(xiàn)實(shí)相同的樣貌，該職員信以為真，前后轉(zhuǎn)賬15次，共計(jì)將2億港元轉(zhuǎn)到了5個(gè)本地銀行賬戶中，直到5天之后，該職員向總部過(guò)問(wèn)此事時(shí)才發(fā)現(xiàn)被騙。

在本案例中，詐騙者通過(guò)公司的YouTube視頻和從其他公開(kāi)渠道獲取的媒體資料，成功地仿造了英國(guó)公司高層管理人員的形象和聲音，再利用深度偽造技術(shù)制作偽冒視頻，造成多人參與視頻會(huì)議的效果。目前，香港警方表示，整個(gè)案件還在進(jìn)一步調(diào)查之中，還沒(méi)有逮捕任何嫌疑人。

現(xiàn)在，Sora能實(shí)現(xiàn)用更少的人臉數(shù)據(jù)構(gòu)造高逼真的特定人臉模型，如果后續(xù)正式開(kāi)放使用，包括AI換臉在內(nèi)的深度偽造技術(shù)門(mén)檻必將顯著降低，犯罪分子可以更輕松地盜用、冒充他人身份。隨著2024年選舉大年的到來(lái)，世界多國(guó)政府已經(jīng)開(kāi)始擔(dān)憂深度偽造對(duì)政治選舉帶來(lái)的惡劣影響。據(jù)統(tǒng)計(jì)，今年全世界至少有65個(gè)國(guó)家/地區(qū)將會(huì)先后舉行選舉，預(yù)計(jì)將影響全球超過(guò)40億人。在此背景下，AI深度偽造可能被濫用以制造大量虛假音視頻內(nèi)容，從而試圖操縱公眾輿論和選舉結(jié)果。

無(wú)疑，在深度偽造沖擊大眾認(rèn)知、惡意虛假信息快速泛濫的趨勢(shì)下，Sora的誕生正受到各方更加嚴(yán)格的審視，在驚嘆其實(shí)力的喧嘩后，Sora的達(dá)摩克利斯之劍已經(jīng)高懸在每一位普羅大眾頭上。

Sora面臨的安全挑戰(zhàn)

和自家兄弟產(chǎn)品ChatGPT類(lèi)似，Sora同樣會(huì)抓取互聯(lián)網(wǎng)中的視頻內(nèi)容進(jìn)行訓(xùn)練、優(yōu)化，如此一來(lái)，數(shù)據(jù)安全問(wèn)題將成為Sora在網(wǎng)絡(luò)安全方面所面臨的重大挑戰(zhàn)。有媒體報(bào)道提及，盡管OpenAI在發(fā)布時(shí)聲稱(chēng)所有訓(xùn)練素材均源自公開(kāi)渠道或經(jīng)過(guò)合法授權(quán)，但并未透露具體涉及多少視頻樣本及其確切來(lái)源。

IDC分析師也指出，多模態(tài)大模型將讀取更多的圖像、視頻類(lèi)數(shù)據(jù)，這些圖像視頻數(shù)據(jù)是否合規(guī)是否安全，需要得到保障；另一方面，生成的視頻與真實(shí)世界之間的差異，是否會(huì)影響到人身安全、社會(huì)穩(wěn)定、企業(yè)安全等，也需要注意。

正如前文所述，在涉及虛假信息的深度偽造方面，雖然OpenAI表示在正式開(kāi)放Sora使用前會(huì)采取幾個(gè)重要的安全措施，防止其生成極端暴力、色情、仇恨以及有害的涉政內(nèi)容，OpenAI還將進(jìn)行專(zhuān)項(xiàng)“紅隊(duì)”攻擊測(cè)試，招募錯(cuò)誤信息、仇恨內(nèi)容和偏見(jiàn)等領(lǐng)域的專(zhuān)家對(duì)其進(jìn)行對(duì)抗性測(cè)試的方式來(lái)評(píng)估Sora被濫用的可能性。但OpenAI也承認(rèn)，他們無(wú)法預(yù)測(cè)人們使用Sora的所有有益方式，也無(wú)法預(yù)測(cè)人們?yōu)E用技術(shù)的所有方式。

也有網(wǎng)絡(luò)技術(shù)人員建議，以隱形水印的形式在視頻圖像中嵌入不可見(jiàn)的水印保護(hù)信息，以快速識(shí)別AI合成內(nèi)容并進(jìn)行溯源。但這種做法在應(yīng)對(duì)將視頻重新編碼、模糊，或者經(jīng)過(guò)多重轉(zhuǎn)載損失一定畫(huà)質(zhì)，以及對(duì)視頻進(jìn)行二次加工處理后是否依然能夠有效識(shí)別，目前還不得而知。

如何看待Sora

在“寧愿看視頻也不愿看文字”的時(shí)代背景下，視頻內(nèi)容的產(chǎn)出正迎來(lái)爆發(fā)式增長(zhǎng)。相關(guān)統(tǒng)計(jì)顯示，從2015年至2020年，短視頻內(nèi)容年均增長(zhǎng)率達(dá)到驚人的400%。視頻已成為大眾日常消遣、娛樂(lè)、獲取外界信息最主要的方式之一。Sora作為一種視頻創(chuàng)作領(lǐng)域的先進(jìn)生產(chǎn)力，其誕生和發(fā)展就具有時(shí)代必然性，無(wú)論是內(nèi)容創(chuàng)作者還是網(wǎng)絡(luò)及信息安全相關(guān)的守護(hù)者，都應(yīng)該以積極的心態(tài)應(yīng)對(duì)隨之帶來(lái)的變革和挑戰(zhàn)。

“哪些能做，哪些不能做”

在今年年初人工智能大本營(yíng)美國(guó)接連發(fā)生“假拜登來(lái)電”以及“泰勒·斯威夫特虛假不雅照”事件后，美國(guó)方面對(duì)此表示深感憂慮。美國(guó)消費(fèi)者技術(shù)協(xié)會(huì)首席執(zhí)行官夏皮羅認(rèn)為，政府需要在人工智能領(lǐng)域扮演重要角色，確保設(shè)置安全屏障和護(hù)欄，讓產(chǎn)業(yè)內(nèi)人士知道，哪些能做，哪些不能做。

在世界各國(guó)政府層面，Sora的推出勢(shì)必將加速信息安全監(jiān)管措施的出臺(tái)。日前，歐盟各國(guó)政府已批準(zhǔn)《歐盟人工智能法案》，該法案將禁止使用存在“不可接受風(fēng)險(xiǎn)”的AI系統(tǒng)，例如使用生物識(shí)別數(shù)據(jù)推斷公眾敏感特征的系統(tǒng)。歐洲議會(huì)預(yù)計(jì)將于4月簽署這項(xiàng)法案，若一切順利，這套法規(guī)將于2026年生效。

OpenAI也表示，將與世界各地的政策制定者、教育工作者和藝術(shù)家合作，了解他們的擔(dān)憂，確定Sora的積極使用案例，并認(rèn)為從現(xiàn)實(shí)世界的使用中學(xué)習(xí)是創(chuàng)建和發(fā)布越來(lái)越安全的人工智能系統(tǒng)的關(guān)鍵組成部分。