这个虚构的新闻节目完全由人工智能和深度伪造制作

一家专门研究虚假信息的研究公司 Graphika 周二发布了一份令人震惊的报告，揭示了备受争议的深度伪造技术的发展程度。他们的研究结果详细描述了似乎是国家首例利用完全由人工智能生成的“新闻”镜头进行宣传的影响力行动。尽管最终产品相对笨拙，网络影响力似乎较小，但虚构媒体 Wolf News 的人工智能电视主播去年批评了美国在枪支暴力问题上的不作为，并在即将举行的国际峰会上赞扬了中国的地缘政治责任和影响力。

据《纽约时报》周二提供的补充报道，Wolf News 的两位主播可以追溯到 Synthesia 提供的“Jason”和“Anna”化身，Synthesia 是一家成立五年的英国初创公司，以每月 30 美元的价格向客户提供深度伪造软件。Synthesia 目前提供至少 85 个以真人演员为原型的角色，涵盖各个年龄、性别、种族、语调和衣着。客户还可以生成自己的化身，也可以生成任何同意的人的化身。

[相关：深度伪造、错误信息和视频编辑的历史。]

Synthesia 的产品主要作为节省成本和时间的解决方案的工具进行销售，例如公司内部的人力资源培训视频。该公司网站上宣传的过去客户包括亚马逊和诺和诺德。Synthesia 的示例以及《纽约时报》重点介绍的宣传片段质量并不高——虚拟形象说话的语调大多单调，面部表情呆板，音频延迟，眨眼速度太慢等动作不切实际。

通常情况下，这不是问题，因为客户愿意牺牲这些方面，以换取通常平凡项目的大幅降低运营成本。不过，Graphika 的专家警告称，该技术正在迅速改进，很快就会呈现出与真实视频难以区分的虚假信息。

[相关：“历史”聊天机器人不仅不准确，而且很危险。]

Synthesia 的服务条款明确禁止生成“政治、性、个人、犯罪和歧视性内容”。尽管该公司有一个由四人组成的部门负责监控客户的深度伪造内容违规行为，但与仇恨言论或露骨内容相比，仍然很难标记诸如虚假信息或宣传之类的细微问题。Synthesia 的联合创始人兼首席执行官 Victor Riparbelli 告诉《纽约时报》 ，该公司对安全漏洞负有全部责任，并且 Wolf News 的订阅者随后因违反公司政策而被禁止。

尽管 Graphika 发现的数字宣传似乎只影响到了少数网络用户，但该公司警告称，坏人利用更好的技术制作极具说服力的视频和图像来开展各自的影响力行动只是时间问题。去年 11 月，Riparbelli 在 Synthesia 网站上发表的一篇博客文章中，要求政府制定全面的立法来规范“合成媒体”和深度伪造行业。