Deepfakes 可能使用了新技术，但它们基于一个旧想法

“命运注定，那些前往月球进行和平探索的人们将会留在月球上安息。”

这是理查德·尼克松 1969 年在电视上向全国人民宣布阿波罗 11 号任务失败、宇航员尼尔·阿姆斯特朗和巴兹·奥尔德林在首次登月尝试中丧生这一可怕消息时读到的话。

但这只是在另一个现实中。尼克松从未说过这些话，因为阿波罗 11 号取得了历史性的成功，阿姆斯特朗、奥尔德林和他们的飞行员迈克尔·柯林斯安全返回地球。但是为了以防他们未能安全返回地球，当时的总统尼克松准备了一篇演讲。短片《如果发生月球灾难》，向我们展示了这种情况将如何展开，尼克松通过令人难以置信的深度伪造视频传达了灾难性的消息。

[相关： 7 种简单方法让你亲眼见证登月真实发生]

深度伪造是“deep”（深度学习）和“fake”（伪造）的组合。两者合在一起，指的是使用人工智能来描绘从未发生过的场景的音频或视频片段。《月球灾难事件》的导演之一哈尔西·勃艮第 (Halsey Burgund) 表示，通常情况下，这包括一个人说或做一些他们从未做过的事情，而且往往没有得到被描绘者的同意。

虽然深度伪造是最近才发展起来的，但它们建立在长期存在的扭曲媒体的基础上，而这些媒体至今仍以低技术、有影响力的虚假信息的形式存在。尽管深度伪造技术发展迅速，但仍有人努力减缓其传播。虽然深度伪造有很多恶意用途，但在人权和无障碍等领域也有一些有益的应用。纽约市电影博物馆正在举办的展览“深度伪造：屏幕上的不稳定证据”以“月球灾难事件”为中心探讨了这些主题。

深度伪造与其他虚假信息的区别

要制作某人的深度伪造视频，创作者必须通过向计算机提供大量视频、音频或“目标”图像来训练计算机。“目标”是您要尝试操纵其图像和声音的人，而“源头”是模拟您希望目标说出或做出的单词或动作的演员。为了做到这一点，计算机使用了一种人工神经网络，其功能类似于人类大脑，通过查看证据、寻找模式，然后将该模式应用于新信息来解决问题。神经网络最早于 1943 年被提出，可用于从编写食谱到翻译复杂的期刊文章等各种用途。深度学习和深度伪造创作涉及多层神经网络，因此计算机可以进行自我训练和纠正。

虽然深度伪造技术本身似乎有害，但社交媒体用户传播信息的速度却对它大有裨益，人们通常不会停下来质疑信息的来源。

“深度伪造作为一种生产技术引起了很多担忧，”展览联合策展人、动态影像博物馆策展事务副主任芭芭拉·米勒 (Barbara Miller) 表示。“我认为，如果不考虑信息传播的闪电速度，就不可能考虑这种担忧。”

但虚假信息的有效传播早于深度伪造甚至社交媒体。米勒补充说，展览将深度伪造置于“不稳定的非虚构媒体”的悠久历史背景下，这样参观者就不会认为人工智能驱动的操纵的兴起是媒体不信任的根源。

伯贡德说：“这些技术自从媒体出现以来就一直存在。”

19 世纪 90 年代，爱迪生制造公司急于通过摄像机记录美西战争，来发挥电影的威力。然而，19 世纪的摄像机比现在的笨重得多，很难拍摄近距离的战斗。因此，该公司将美军迅速击败敌军的假镜头散布在行进士兵和武器的真实镜头中。这些剪辑激起了美国观众的爱国热情，因为他们不知道真实场景和虚假场景的区别。

即使在今天，你也不需要人工智能来创造有效且有影响力的虚假信息。“那些被长期使用的经过验证的操纵方法仍然有效，”Burgund 说。他解释说，即使在不编辑图片的情况下在照片上加上错误的标题，也会产生错误信息。

以 2020 年总统大选为例。米勒表示，在选举前的几个月里，人们担心深度伪造可能会破坏民主进程。然而，这项技术在选举期间并没有真正引起轰动，至少与能够成功传播虚假信息的粗暴操纵形式相比是如此。

几乎任何人都可以通过基本的视频编辑技巧对素材进行剪辑，改变其含义或基调。这些被称为“廉价伪造”或“浅层伪造”（拼接的美西战争视频是最早的例子之一）。 《月球灾难事件》的开场在档案素材上使用了这些技术，使其看起来像是阿波罗 11 号坠毁了。导演在宇航员的快速剪辑之间穿插了登月舱返回的镜头，并将其设置为加速的哔哔声和静电噪音的配乐，以营造出任务出错的令人焦虑的幻觉。由于这些技术几乎不需要专业知识，只需要一台笔记本电脑，因此它们比深度伪造更为普遍。

“我们在《浅薄的伪造》中看到了最为广泛的损害，”展览联合策展人、亨德里克斯学院英语、电影和媒体研究助理教授乔舒亚·格里克 (Joshua Glick) 说道。

事实上，一些最著名的被争论为深度伪造的视频实际上是廉价伪造。2019 年，时任总统唐纳德·特朗普的律师鲁道夫·朱利安尼在推特上发布了一段南希·佩洛西的视频，视频中她似乎吐词不清，导致一些批评者声称她喝醉了。该视频被发现经过编辑和减慢速度，但没有使用任何深度伪造技术。

伯贡德和他的联合导演弗朗西斯卡·帕内塔( Francesca Panetta) 认为，确认偏差实际上有助于深度伪造或廉价伪造的传播，即使它们显然制作得很差。“如果深度伪造描绘的是你想相信的东西，那么它几乎不需要看起来像真的，”伯贡德说。

减缓深度伪造的传播

虽然目前制作像 Burgund 和 Panetta 这样的深度伪造作品需要一些技术知识，但罗彻斯特理工学院全球网络安全研究所研究主任兼计算机安全教授 Matthew Wright 表示，这项技术正在迅速传播到大众，而且已经出现了很多深度伪造应用程序和软件。

赖特说：“这是在使一项潜在危险的技术民主化。”

然而，人们正在努力减缓或抵制深度伪造的传播。虽然技术研究人员通常的冲动是与公众分享方法和工具，但赖特表示，一些开发新深度伪造技术的专家已发誓要对他们的研究成果保密。此外，还有一些项目，例如内容真实性倡议，这是一个由 Adob​​e、Twitter 和《纽约时报》等公司和组织组成的联盟，旨在通过给媒体加水印来追踪媒体的来源，即使它们被编辑过。赖特说，这不是一个完美的解决方案，因为有办法绕过这些检查。不过，如果白宫发布的每段视频都加了数字水印，那么就可以减缓或阻止这些视频被篡改。

赖特正在致力于开发可供记者和普通互联网用户使用的深度伪造检测工具。（微软在 2020 年推出了一款类似的产品。）赖特表示，他和他的同事非常小心，不会分享所有的源代码，因为如果有人能接触到这些源代码，就有可能制造出深度伪造来欺骗这些检测器。但如果存在多种验证者，发生这种情况的可能性就会降低。

赖特说：“只要对这些视频使用多种检测工具，那么我认为总体而言，我们捕获（深度伪造）的机会相当大。”

深度伪造技术的价值

你可能已经在娱乐领域体验过深度伪造带来的好处，比如在最近的《星球大战》电影中，或者在讽刺作品中，比如这部《星际迷航》的复古影片，其中出现了杰夫·贝佐斯和伊隆·马斯克的脸。然而，这项技术在人权和残疾人无障碍方面也有用处。

电影博物馆展出了《欢迎来到车臣》的片段， 大卫·弗朗斯 (David France) 的一部获奖纪录片，利用深度伪造技术掩盖了俄罗斯共和国遭受迫害的 LGBTQ 活动人士的真实面孔。这让观众既能看到拍摄对象的情绪，又能保护他们的身份。

Burgund 表示，该技术还用于帮助那些因疾病、受伤或残疾（如肌萎缩性脊髓侧索硬化症）而失声的人。例如，VocaliD 使用人工智能从旧录音中重建用户的声音，用于文本转语音技术，或帮助他们从众多选项中挑选出最适合自己个性的声音。

[相关： Deepfakes 可以帮助我们重温历史，甚至改写历史]

虽然帕内塔和勃艮第希望他们的深度伪造作品的观众能够质疑他们所接触到的媒体的来源，但他们不希望观众感到惊慌以至于创建一个零信任社会。

“这并不是试图吓唬人们，让他们不相信自己所看到的任何东西，”帕内塔说，“因为这与错误信息本身一样成问题。”

正如对媒体的信任可以被武器化，对媒体的不信任也可以被武器化。

正如展览所指出的，即使深度伪造在理论上存在，也会导致“骗子红利”，人们可以暗示真实视频是深度伪造的，以播下怀疑的种子。

2018 年，加蓬总统阿里·邦戈·翁丁巴在中风后淡出了公众视线，随后发表了新年致辞。他的政治对手表示，他看起来不自然，并认为这段视频是深度伪造的。虽然专家们一致认为这段视频看起来不对劲，但没有人能确定它是否是深度伪造的，一些人将邦戈外貌的奇特归咎于他的健康状况不佳。一周后，他的反对者以这段视频的奇怪之处为由，试图发动政变，但未能成功。

赖特说，他和同事们开始在政治领域看到更多此类“狼来了”的情况，而不是真正的深度伪造在传播并造成损害。“可能会有深度伪造，但它们并不常用，”他说。“你需要做的是了解来源。”

对于任何在浏览社交媒体和新闻时被大量信息淹没的人来说，停下来思考这个问题很重要：“这些信息是如何传到我这里的？是谁在传播这些信息？我能相信这个消息来源吗？”这样做可以确定深度伪造（或廉价伪造）是成为有力的虚假信息还是仅仅是互联网上的又一个视频。

《Deepfake：屏幕上的不稳定证据》将在纽约皇后区动态影像博物馆展出至 2022 年 5 月 15 日。