隨著生成式人工智能的迅速發展，人們越來越關注 AI 生成內容帶來的潛在風險。例如，人們可能會有意或無意地傳播 AI 生成的虛假信息。特別是在圖像生成領域，分辨 AI 生成的圖像和真實圖像顯得尤為重要。

一些研究嘗試用「加水印」的方法來分辨 AI 生成的內容。ICML 2023 杰出論文《A Watermark for Large Language Models》就針對文本生成提出為模型的輸出添加水印。

現在，Google DeepMind 宣布針對圖像生成推出一種添加水印的工具 SynthID，以識別 AI 生成的圖像，目前 SynthID Beta 版已經上線。谷歌 CEO Sundar Pichai 和 Google DeepMind CEO 都轉推介紹了 SynthID 工具。

SynthID 目前可以為谷歌的文生圖模型 Imagen 生成的圖像添加水印，并且在視覺上難以察覺。如下圖所示，有無水印的圖像看起來沒有區別：

通過掃描圖像中的數字水印，SynthID 可以評估圖像是由 Imagen 生成的可能性。

SynthID 不會影響圖像質量，并且即使在添加濾鏡、更改顏色以及使用各種有損壓縮方案（例如 JPEG）進行保存等修改之后，水印仍然可以被檢測到。

在 SynthID 使用兩種深度學習模型（用于水印和識別），這兩種模型已在多個圖像集上一起進行了訓練，并針對一系列目標進行了優化。

目前，部分用戶可以在谷歌的 Vertex AI 平臺上對 Imagen 使用 SynthID 工具（Beta 版）。

值得注意的是，SynthID 并不能保證水印可以萬無一失地抵御極端圖像處理，但它提供了一種有前途的技術方法，使人們能夠負責任地使用人工智能生成的內容。研究團隊表示之后可能還會面向音頻、視頻和文本等模態推出類似的工具。