出品 | 51CTO技術棧（微信號：blog51cto）
谷歌正在推出其 SynthID Text 技術，讓開發者能夠對生成式 AI 模型生成的文本進行水印token和檢測，并且該技術現在已經全面開放。
圖片
SynthID Text 可以通過 AI 平臺 Hugging Face 和谷歌更新后的負責任生成式 AI 工具包下載。
https://huggingface.co/spaces/google/synthid-text
谷歌的這項成果已經被nature接收了！在這篇論文中，谷歌詳細揭秘了水印的工作原理。
圖片
https://www.nature.com/articles/s41586-024-08025-4
那么，SynthID Text 究竟是如何工作的呢？
一、SynthID的AI查重：哪個“token”最可能出自AI之手
假設給出一個類似“你最喜歡的水果是什么？”的問題，文本生成模型會預測哪個“token”最有可能跟在另一個token之后——逐個token生成。token可以是單個字符或單詞，它們是生成模型用來處理信息的基本構件。
圖片
以 "我最喜歡的熱帶水果是____"為例。LLM 可能會從 "芒果"、"荔枝"、"木瓜 "或 "榴蓮 "等標記詞開始完成句子，并為每個標記詞分配一個概率分數。當有一系列不同的標記可供選擇時，SynthID 可以在不影響輸出質量、準確性和創造性的情況下，調整每個預測標記的概率分數。
谷歌表示，SynthID Text 通過“調節生成token的可能性”在這種token分布中插入了額外信息。
圖片
上圖：LLM 文本生成通常是通過從左到右生成文本的方式，反復從 LLM 分布中進行采樣。下圖：生成式水印方案通常由三個組成部分構成，如藍色框中所示：隨機種子生成器、采樣算法和評分函數。這些組件可以用于提供一種文本生成方法和水印檢測方法。在 SynthID-Text 生成式水印方案中，我們使用的是錦標賽采樣算法。
“模型的詞匯選擇的最終分數模式與調整后的概率分數結合，被視為水印，”該公司在博客文章中寫道。“此分數模式與水印和非水印文本的預期分數模式進行比較，從而幫助 SynthID 檢測文本是否由 AI 工具生成，或可能來自其他來源。”
谷歌聲稱，自今年春季以來，SynthID Text 已與其 Gemini 模型集成，并且不會影響文本生成的質量、準確性或速度，即使在文本被裁剪、改寫或修改后依然有效。
這種技術可用于少至三句話的內容。隨著文本長度的增加，SynthID 的穩健性和準確性也會提高。
二、SynthID的多模態進展：音頻、視頻也有水印
谷歌表示，使用谷歌模型生成的AI音頻、視頻，也已經“自帶水印”。
1.音頻
在音頻方面，SynthID 會把 Lyria 模型生成的音頻加上水印。
SynthID的技術是，先將音頻波（聲音的一維表現形式）轉換為頻譜圖。
計算出頻譜圖后，SynthID會將數字水印加入其中。最后，將頻譜圖轉換回波形。在這一轉換步驟中，SynthID 利用音頻特性確保人耳聽不到水印，從而不會影響聽覺體驗。水印對許多常見的修改（如添加噪音、MP3 壓縮或加快和減慢音軌）都很穩健。
SynthID 還能掃描音軌，檢測不同點是否存在水印，以幫助確定其中的部分是否由 Lyria 生成。
2.視頻
SynthID 將人眼無法察覺的數字水印直接添加到AI圖像和視頻中。
而且，即使經過各種技術操作，比如裁剪、添加濾鏡、改變顏色、改變幀頻和使用各種有損壓縮等，也無法擺脫這個水印。
圖片
三、寫在最后
不過，谷歌承認其水印方法存在局限性。
例如，SynthID Text 在處理短文本、改寫或從其他語言翻譯的文本時表現不佳，或者在處理回答事實性問題時效果較差。“在回答事實性提示時，調整token分布的機會較少，且不會影響事實準確性。”這包括像“法國的首都是哪里？”之類的問題，或者像“背誦威廉·華茲華斯的詩”這樣幾乎沒有變化空間的請求，此類輸出很難被識別。
谷歌并不是唯一一家致力于 AI 文本水印技術的公司。OpenAI 多年來一直在研究水印方法，但由于技術和商業方面的考慮，推遲了發布。
如果文本水印技術被廣泛采用，它可以幫助應對日益流行但常常錯誤token的“AI 檢測器”問題，這些檢測器會錯誤地將以較為通用的語氣撰寫的文章或論文token為 AI 生成的。然而，問題在于，這些技術是否會被廣泛采用，以及是否有某一組織的標準或技術會勝出。
未來可能會有法律機制迫使開發者采用這些技術。中國已經引入了對 AI 生成內容強制加水印的規定，加利福尼亞州也正計劃采取類似措施。
形勢十分緊迫。根據歐盟執法機構的一份報告，到 2026 年，90% 的在線內容可能會是由 AI 合成生成的，這將帶來關于虛假信息、宣傳、欺詐和欺騙的新執法挑戰。據 AWS 研究顯示，由于 AI 翻譯工具的廣泛使用，當前網絡上約 60% 的句子可能已經是 AI 生成的。
參考鏈接：
1.https://techcrunch.com/2024/10/23/google-releases-tech-to-watermark-ai-generated-text/
