01 概述

在這個(gè)由數(shù)據(jù)驅(qū)動(dòng)的時(shí)代，人工智能（AI）正以其獨(dú)特的方式重塑我們的世界。AI不僅改變了我們獲取信息的方式，更在內(nèi)容創(chuàng)作領(lǐng)域掀起了一場(chǎng)革命。隨著生成性AI工具逐漸成為主流，人類創(chuàng)作與AI生成文本的界限變得模糊，這既帶來(lái)了前所未有的機(jī)遇，也帶來(lái)了關(guān)于真實(shí)性、作者身份和錯(cuò)誤信息的挑戰(zhàn)。如何區(qū)分人類創(chuàng)作的內(nèi)容與AI生成的內(nèi)容，尤其是在AI變得越來(lái)越自然的情況下，成為了一個(gè)亟待解決的關(guān)鍵問(wèn)題。

02 SynthID

開(kāi)源的AI文本水印技術(shù)，為負(fù)責(zé)任的AI發(fā)展保駕護(hù)航

在這個(gè)背景下，Google開(kāi)源了SynthID，這是一種AI文本水印技術(shù)，旨在通過(guò)負(fù)責(zé)任的AI發(fā)展，增強(qiáng)AI生成內(nèi)容的安全性、透明度和可追溯性。通過(guò)免費(fèi)提供SynthID，Google希望能夠普及先進(jìn)的水印工具，這些工具可以在不改變可見(jiàn)特征的情況下識(shí)別AI生成的內(nèi)容。這一舉措是增強(qiáng)AI生態(tài)系統(tǒng)中信任的重要一步。

SynthID的技術(shù)概覽及其優(yōu)勢(shì)

SynthID通過(guò)先進(jìn)的深度學(xué)習(xí)模型，將不可見(jiàn)的水印直接集成到AI生成的文本中。與傳統(tǒng)的水印不同，SynthID的水印是無(wú)縫嵌入的，并且對(duì)篡改具有很高的抵抗力。通過(guò)嵌入跨AI文本格式工作的類似元數(shù)據(jù)的信號(hào)，SynthID可以確定給定文本是否為AI生成。這種水印很難在不顯著損害內(nèi)容的語(yǔ)言完整性的情況下移除，使其成為內(nèi)容驗(yàn)證的強(qiáng)大工具。SynthID的韌性，加上其在嘈雜條件下工作的能力——即文本可能已經(jīng)過(guò)人工編輯——使其尤為強(qiáng)大。

03 SynthID-Text研究的洞見(jiàn)

最近在《自然》雜志上發(fā)表的一篇研究論文進(jìn)一步揭示了SynthID-Text的開(kāi)發(fā)和測(cè)試情況。SynthID-Text是一種生產(chǎn)就緒的水印方案，它在確保高檢測(cè)準(zhǔn)確率的同時(shí)，保持了文本質(zhì)量，并且延遲最小。值得注意的是，SynthID-Text與推測(cè)性抽樣技術(shù)集成，這是一種用于提高生產(chǎn)系統(tǒng)效率的技術(shù)，允許在不影響文本生成速度的情況下進(jìn)行可擴(kuò)展的水印。在多個(gè)大型語(yǔ)言模型（LLMs）上的評(píng)估表明，與現(xiàn)有方法相比，SynthID-Text提供了改進(jìn)的可檢測(cè)性，而與人類評(píng)審員的并排比較表明，文本質(zhì)量沒(méi)有損失。在涉及近2000萬(wàn)Gemini響應(yīng)的大規(guī)模實(shí)驗(yàn)中，SynthID-Text保持了文本質(zhì)量，展示了其在現(xiàn)實(shí)世界應(yīng)用中的可行性。

SynthID的重要性

在AI生成內(nèi)容迅速擴(kuò)散的世界中，SynthID的重要性不言而喻。SynthID不僅作為一種驗(yàn)證工具，還提供了問(wèn)責(zé)制，這對(duì)于打擊虛假信息至關(guān)重要，尤其是當(dāng)AI生成的內(nèi)容越來(lái)越難以與人類創(chuàng)作區(qū)分開(kāi)來(lái)時(shí)。測(cè)試結(jié)果令人鼓舞：在測(cè)試中，SynthID識(shí)別水印文本的準(zhǔn)確率超過(guò)了95%。此外，SynthID-Text中集成了一種名為Tournament抽樣的新型抽樣算法，通過(guò)嵌入難以移除的統(tǒng)計(jì)簽名，增強(qiáng)了檢測(cè)性能。通過(guò)開(kāi)源SynthID，Google還邀請(qǐng)開(kāi)發(fā)者社區(qū)為提高AI生成文本的透明度做出貢獻(xiàn)，促進(jìn)了一個(gè)更負(fù)責(zé)任的AI環(huán)境。

04 結(jié)語(yǔ)

Google決定開(kāi)源SynthID用于AI文本水印，這是邁向負(fù)責(zé)任AI發(fā)展的重要一步。SynthID不僅有效地識(shí)別AI生成的內(nèi)容，還促進(jìn)了數(shù)字領(lǐng)域透明度的新時(shí)代。通過(guò)提供強(qiáng)大的水印技術(shù)和將其開(kāi)放給社區(qū)，Google為道德AI發(fā)展樹(shù)立了高標(biāo)準(zhǔn)。隨著AI生成內(nèi)容的持續(xù)擴(kuò)展，像SynthID這樣的工具對(duì)于維護(hù)信息完整性和確保AI技術(shù)的負(fù)責(zé)任增長(zhǎng)至關(guān)重要。

參考：

1. ??https://www.nature.com/articles/s41586-024-08025-4??
2. ??https://deepmind.google/technologies/synthid/??

?

本文轉(zhuǎn)載自公眾號(hào)Halo咯咯  作者：基咯咯

原文鏈接：??https://mp.weixin.qq.com/s/b3UVQ7xFcdMjogLOmjogFQ??