随着生成式人工智能的迅速发展，人们越来越关注 AI 生成内容带来的潜在风险。例如，人们可能会有意或无意地传播 AI 生成的虚假信息。特别是在图像生成领域，分辨 AI 生成的图像和真实图像显得尤为重要。
一些研究尝试用「加水印」的方法来分辨 AI 生成的内容。ICML 2023 杰出论文《A Watermark for Large Language Models》就针对文本生成提出为模型的输出添加水印。
现在，Google DeepMind 宣布针对图像生成推出一种添加水印的工具 SynthID，以识别 AI 生成的图像，目前 SynthID Beta 版已经上线。谷歌 CEO Sundar Pichai 和 Google DeepMind CEO 都转推介绍了 SynthID 工具。
SynthID 目前可以为谷歌的文生图模型 Imagen 生成的图像添加水印，并且在视觉上难以察觉。如下图所示，有无水印的图像看起来没有区别：
通过扫描图像中的数字水印，SynthID 可以评估图像是由 Imagen 生成的可能性。
SynthID 不会影响图像质量，并且即使在添加滤镜、更改颜色以及使用各种有损压缩方案（例如 JPEG）进行保存等修改之后，水印仍然可以被检测到。
在 SynthID 使用两种深度学习模型（用于水印和识别），这两种模型已在多个图像集上一起进行了训练，并针对一系列目标进行了优化。
目前，部分用户可以在谷歌的 Vertex AI 平台上对 Imagen 使用 SynthID 工具（Beta 版）。
值得注意的是，SynthID 并不能保证水印可以万无一失地抵御极端图像处理，但它提供了一种有前途的技术方法，使人们能够负责任地使用人工智能生成的内容。研究团队表示之后可能还会面向音频、视频和文本等模态推出类似的工具。