最终，在 Facebook 上分享人工智能生成的图像可能会变得更加困难

你的那位阿姨（你知道是哪位）可能最终会在转发 Facebook 帖子时三思而后行，这些帖子里有时髦的爱因斯坦和时尚前卫的教皇方济各的“遗失”照片。周二，Meta 宣布“在未来几个月内”，它将尝试开始标记所有使用微软、OpenAI、Midjourney 和谷歌等大公司程序制作的人工智能生成的图像，这些图像充斥着 Facebook、Instagram 和 Threads。

但为了应对专家所称的“全球最大的短期威胁”——猖獗的生成式人工智能滥用问题，Meta 需要每家主要人工智能公司的合作，需要其约 54 亿用户的自我报告，以及目前尚未发布的技术。

Meta 全球事务总裁尼克·克莱格 (Nick Clegg) 在 2 月 6 日的帖子中解释说，这些政策和技术预计将在全球关键选举季节之前推出。

克莱格说：“在此期间，我们希望更多地了解人们如何创建和分享人工智能内容，人们认为什么样的透明度最有价值，以及这些技术如何发展。”

[相关：为何教皇方济各身穿飞行夹克的人工智能图像在互联网上引起轰动。]

Meta 模糊的路线图以与“行业内的其他公司”合作为中心，开发和实施人工智能图像的通用识别技术标准。示例可能包括数字签名算法和加密信息“清单”，正如内容来源和真实性联盟 (C2PA) 和国际新闻电信委员会 (IPTC) 所建议的那样。一旦人工智能公司开始使用这些水印，Meta 将开始使用“分类器”对内容进行相应的标记，以帮助自动检测人工智能生成的内容。

“如果人工智能公司开始使用水印”可能更准确。虽然该公司自己的 Meta AI 功能已经用“人工智能想象”水印标记其内容，但这种简单的标识符目前在谷歌、OpenAI、微软、Adobe、Midjourney、Shutterstock 和其他公司的人工智能程序中并不统一。

当然，这无助于阻止恶意行为者使用第三方程序，而且通常会导致极其令人反感的后果。例如，上个月，人工智能生成的泰勒·斯威夫特色情图片在社交媒体上被分享了数千万次。

Meta 在周二的帖子中明确表示，这些保护措施将仅限于静态图像。但克莱格表示，在美国总统大选前，任何对此感到担忧的人都应该向其他人工智能公司求助，而不是 Meta。尽管一些公司开始在其图像生成器中加入标识符，但“他们还没有开始将它们纳入以相同规模生成音频和视频的人工智能工具中，因此我们还无法检测到这些信号并标记来自其他公司的内容，”他写道。

虽然“业界正在努力实现这一功能”，但 Meta 似乎将责任推给了用户。另一项即将推出的功能将允许人们披露他们上传的 AI 生成的视频和音频——克莱格最终可能会将此视为一项可受到“惩罚”的要求。

值得一提的是，Meta 至少承认，目前不可能标记所有AI 生成的内容，而且仍有“人们可以去除隐形标记的方法”。然而，为了解决这些问题，Meta 希望以 AI 对抗 AI。尽管 AI 技术长期以来一直在协助 Meta 执行政策，但其在这方面使用生成 AI 的程度“有限”，Clegg 说，“但我们乐观地认为，生成 AI 可以帮助我们更快、更准确地删除有害内容。”

“虽然这不是一个完美的答案，但我们不想让完美成为优秀的敌人，”克莱格继续说道。