给AI生成图像 加水印 谷歌颁布识别工具SynthID

随着生成式人工默认的迅速开展，人们越来越关注 AI 生成内容带来的潜在危险。例如，人们或者会有意或有意地流传 AI 生成的虚伪信息。特意是在图像生成畛域，分辨 AI 生成的图像和实在图像显得尤为关键。

一些钻研尝试用「加水印」的方法来分辨 AI 生成的内容。ICML 2023 卓越论文《A Watermark for Large Language Models》就针对文本生成提出为模型的输入减少水印。

如今，Google DeepMind 发表针对图像生成推出一种减少水印的工具 SynthID，以识别 AI 生成的图像，目前 SynthID Beta 版曾经上线。谷歌 CEO Sundar Pichai 和 Google DeepMind CEO 都转推引见了 SynthID 工具。

SynthID 目前可认为谷歌的文生图模型 Imagen 生成的图像减少水印，并且在视觉上难以发觉。如下图所示，有无水印的图像看起来没有区别：

经过扫描图像中的数字水印，SynthID 可以评价图像是由 Imagen 生成的或者性。

SynthID 不会影响图像品质，并且即使在减少滤镜、更改色彩以及经常使用各种有损紧缩方案（例如 JPEG）启动保留等修正之后，水印依然可以被检测到。

在 SynthID 经常使用两种深度学习模型（用于水印和识别），这两种模型已在多个图像集上一同启动了训练，并针对一系列指标启动了提升。

目前，局部用户可以在谷歌的 Vertex AI 平台上对 Imagen 经常使用 SynthID 工具（Beta 版）。

值得留意的是，SynthID 并不能保障水印可以十拿九稳地抵御极其图像解决，但它提供了一种有出路的技术方法，使人们能够担任任地经常使用人工默认生成的内容。钻研团队示意之后或者还会面向音频、视频和文本等模态推出相似的工具。