最近，美國以OpenAI、谷歌為首的七家科技巨頭公司聯合宣布——

為所有AI生成的內容中嵌入水印。

或許，天天被DeepFake騙的團團轉的日子，要一去不復返了！

七大巨頭聯手給AI加水印

還記得十幾年前，總有人在各種論壇各種吹噓。

別人不信，就會評論，無圖無真相。

再往后，發圖片視頻都不一定100%可信，因為眾所周知，圖片可以p，視頻可以剪輯。

再再往后，生成式AI爆火，別說圖片了，視頻能生成，音頻能生成，文本能生成。

都不是剪輯、p圖那么簡單，而是從0到1直接生成，極盡絲滑。

我不禁想問，這世上還有真的東西嗎！（氣抖冷）

好在，這種情況要得到改善了。

OpenAI、微軟、谷歌、Meta、亞馬遜、Anthropic和Inflection等七家科技巨頭公司宣布，將會開發出一種水印技術，添加在所有由AI生成的內容上面。

美國政府表示，這項技術將有助于在未來更安全地分享AI生成的文本、圖像、音頻，以及視頻，還不會在真實性上誤導別人。

目前，對于不同形式的生成品分別如何嵌入水印這一點，尚不明確。

但功能是確定的——嵌入后，用戶就可以知道當前生成品的來歷，是哪個生成式AI工具搞出來的。

而真正讓七巨頭做出行動的原因，還是用戶和政策制定者們極高的關注程度。

上面那張特朗普被抓的DeepFake（熟悉的朋友肯定都知道，是個套圖），就是由Midjourney前段時間生成的。

雖說那張圖片不管從內容還是構圖來說，都假的離譜，但是Midjourney還是為此封禁了一些賬號。

理由就是傳播虛假照片。

那些圖片的作者就曾表示，如果當時有個水印，估計后果就不會有那么嚴重了。

畢竟，生成搞笑梗圖從動機上來講絕大部分就是為了好玩。

可是梗圖好玩，假音頻假視頻可就不好玩了。

今年已經看過太多新聞，AI語音生成軟件偽造家人的音頻，騙錢騙財。

據FBI統計，AI生成的DeepFake在勒索案中已經成為了不可忽視的因素，尤其是跟性相關的勒索。

更不用說屢屢登上熱搜的GPT寫論文了。

只能說，DeepFake已經進入到多模態的方方面面，而水印的添加可以天然隔開真和假，構筑起一道障壁，杜絕混淆視聽。

OpenAI在官博中表示，將會研發一種水印機制，加入到視頻或音頻中。還會開發一種檢測工具，判斷特定內容是否含有系統創建的工具或API。

谷歌也表示，除了水印以外，還會有其它創新型技術，把關信息推廣。

拜登政府還將創建一個基金會，確保對于AI的所有發展，都要先有承諾和保證，再推廣落地，避免風險。

科技巨頭公司還同意在AI系統發布前對其進行內部和外部的雙重測試，并加大對網絡安全的投資，在整個行業共享信息，以幫助降低AI的風險

Meta的全球事務總裁Nick Clegg也呼應了OpenAI，稱科技公司的承諾是確保為AI建立負責任的護欄的重要一步。

簽署自愿承諾書

2023年7月21日，白宮主導并召集了七家領先的人工智能公司——亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI，一起商討如何實現「人工智能技術安全、可靠和透明的發展」。

會后這些公司均已與白宮達成一致，并發表了自愿承諾書。

這些公司做出的承諾，強調了人工智能未來發展的三個原則：安全、保障、信任。

這標志著在開發負責任的人工智能上，人類邁出了關鍵的一步。

承諾書的內容大概包括：

1. 產品公開前確保其安全性

1）發布人工智能系統前，對人工智能的內部、外部進行安全測試。（2家公司承諾）

2）與行業、政府、民間社會和學界共享管理人工智能風險的信息。（全部公司通過）

2. 搭建「安全第一」的人工智能系統

3）投資網絡安全和內部威脅防護措施，保護專有與未發布模型的權重，僅在考慮安全風險時公開權重。（2家公司承諾）

4）建立強大的報告機制，鼓勵第三方對人工智能系統中的漏洞即時反饋，迅速發現并解決問題。（2家公司承諾）

3. 贏得公眾的信任

5）開發強大的技術機制，確保用戶能夠識別人工智能生成的內容，如水印系統。（2家公司承諾）

6）公開人工智能系統的功能、局限性以及適用范圍，警示人工智能的安全風險和社會風險等。（2家公司承諾）

7）優先研究人工智能系統帶來的社會風險，如避免有害的偏見、歧視以及保護隱私。

并推出專門的人工智能來減輕這些危險。（2家公司承諾）

8）開發和部署前沿人工智能系統，解決如從癌癥預防到緩解氣候變化等社會問題和挑戰。（2家公司承諾）

OpenAI在21日當天也在網站上發布了自愿承諾書：https://openai.com/blog/moving-ai-governance-forward

內容與白宮中的聲明基本一致，但具體闡述更加細致。并特意指出了承諾書中的特定模型的所指——僅適用于總體上比當前行業前沿更強大的生成模型。

例如，總體上比任何當前發布的模型更強大的模型，包括 GPT-4、Claude 2、PaLM 2、Titan 以及圖像生成DALL-E 2等。

如何加水印

前段時間，來自馬里蘭大學的研究人員提出了一種高效的水印技術，可以讓合成文本在很短的token跨度（僅需25個token）內被檢測到，同時誤報率（將人類文本誤判為機器生成）極低。

水印是文本中的隱藏模式，對人類來說是不可察覺的，但可以通過算法識別為合成文本。

論文地址：https://arxiv.org/pdf/2301.10226.pdf

眾所周知，AI語言模型的工作原理是對逐個單詞進行預測和生成。

在每個單詞之后，水印算法會隨機將語言模型的詞匯分成「綠色列表」和「紅色列表」，然后提示模型選擇綠色列表中的單詞。

在一段文字中，如果綠色列表中的單詞越多，那么這段文字很可能是由機器生成的。而由人寫的文字往往會包含更隨機的單詞組合。

舉個栗子，對于單詞「美麗」，水印算法可以將「花」歸類為綠色，將「蘭花」歸類為紅色。采用帶有水印算法的AI模型則更有可能使用「花」這個詞，而不是「蘭花」。

概括來說，水印算法所具備的特性如下：

- 水印可以在沒有任何模型參數知識或訪問語言模型API的情況下，通過算法進行檢測。這一特性使得檢測算法可以開源，即使模型不是。這也使得檢測變得廉價且快速，因為無需加載或運行LLM。

- 可以使用標準語言模型生成帶有水印的文本，無需重新訓練。

- 水印可以從生成文本的連續部分中檢測出來。這樣，即使只使用生成的一部分來創建更大的文檔，水印仍然是可檢測的。

- 如果不修改相當比例的生成token，就無法去除水印。

- 可以用嚴格的統計方法來衡量水印是否被檢測到。

雖然馬里蘭大學提出的方法，仍有一些問題尚未解決。例如，在流媒體環境下，或者當短跨度的水印文本位于較長的非水印文本中時，測試水印的最佳方法是什么？

但研究人員認為，他們實驗的結果足以證實，水印可以成為對抗惡意使用生成模型的實用工具。

至于剩下的問題，就留給未來的研究了。