谷歌为人工智能生成的图像制作了隐形水印

人工智能生成的图像越来越逼真，这将使识别深度伪造和其他类型的基于图像的虚假信息变得更加困难。但谷歌的 DeepMind 团队认为它可能有一个解决方案：一种名为 SynthID 的特殊水印工具。

SynthID 于本周在 Google Cloud Next 上发布，是 Google Cloud 和 Google DeepMind 团队之间的合作成果。Google Cloud 的生成式 AI 平台 Vertex AI 已为 Image 提供了测试版。目前，它仅适用于 Google 的 DALL-E 2 类文本转图像生成器 Imagen，但该公司正在考虑将类似技术引入网络上的其他生成式 AI 模型。

根据 DeepMind 团队发布的公告博客文章，SynthID 的工作原理是将“数字水印直接嵌入图像像素中，使其无法被人眼察觉，但可以被检测到并进行识别。”这是他们试图找到“不可察觉性和对图像处理的鲁棒性之间的适当平衡”。这是一个艰难的挑战，但非常重要。

正如 DeepMind 团队在公告中解释的那样，“虽然生成式人工智能可以释放巨大的创造潜力，但它也带来了新的风险，例如让创作者能够有意或无意地传播虚假信息。”建立某种系统来帮助人们和平台识别人工智能生成的内容对于阻止虚假信息的传播至关重要。

研究人员声称，传统的水印（比如在库存照片顶部添加的徽标）并不适合人工智能生成的图像，因为如果水印很小，则可以轻松编辑掉，而如果水印很大且很明显，它们“会给创意或商业目的带来美学挑战”。 （换句话说，它们看起来真的很丑。）

同样，尽管过去曾有人尝试开发难以察觉的水印，但 DeepMind 的研究人员声称，只需调整图像大小等简单操作就足以去除它们。

SynthID 使用两个相关的基于深度学习的 AI 模型：一个用于给每幅图像添加水印，另一个用于识别水印。这两个模型在同一“多样化图像集”上一起训练，最终得到的组合模型经过优化，既能让水印尽可能不被人类察觉，又能让 AI 轻松识别。

[相关：《纽约时报》是最新一家与人工智能抓取工具展开斗争的媒体]

至关重要的是，SynthID 经过训练，即使在原始图像经过编辑后也能检测嵌入的水印。诸如裁剪、翻转或旋转、添加滤镜、更改亮度、颜色或对比度，或使用有损压缩算法之类的操作都不会从图像中删除水印——或者至少不会多到 SynthID 无法检测到它。虽然可能可以通过激进的编辑来解决这个问题，但它对大多数常见的修改应该相当稳健。

作为进一步的保护措施，SynthID 有三个置信度级别。如果它检测到水印，您可以相当肯定该图像是使用 Imagen 创建的。同样，如果它没有检测到水印，并且图像看起来没有被编辑过，那么该图像不太可能是由 Imagen 创建的。但是，如果它可能检测到水印（或者，大概是图像中类似于 SynthID 水印的区域），那么它会发出警告，要求谨慎对待。

SynthID 并不能立即解决深度伪造问题，但它确实允许有道德的创作者为其图片添加水印，以便将其标识为 AI 生成的图片。如果有人使用文本转图片工具故意制造虚假信息，他们不太可能选择将图片标记为 AI 生成的，但至少它可以防止某些 AI 图片被断章取义。

DeepMind 团队的目标是让 SynthID 成为识别人工生成的数字内容的“广泛方法”的一部分。虽然它应该准确有效，但元数据、数字签名和简单的视觉检查等内容仍将成为识别此类图像的一部分。

展望未来，该团队正在收集用户的反馈，并寻找改进 SynthID 的方法——毕竟它仍处于测试阶段。他们还在探索将其与其他 Google 产品集成，甚至在“不久的将来”将其发布给第三方。他们的最终目标是值得称赞的：生成式人工智能已经出现，因此使用它们的工具需要让“人们和组织能够负责任地处理人工智能生成的内容”。否则，我们将被大量可能的错误信息所困扰。