微软的新视频验证器可以帮助清除危险的深度伪造

深度伪造很有趣。那些将金·凯瑞完美融入杰克·尼科尔森在《闪灵》中角色的视频非常有趣。然而，随着即将到来的美国大选临近，分析师预计深度伪造可能会在向潜在选民传播大量错误信息方面发挥作用。

本周，微软发布了一款名为 Video Authenticator 的新软件。该软件旨在自动分析视频，以确定算法是否篡改了视频。

该软件实时分析视频并逐帧分析。在某种程度上，它的工作原理类似于常见的摄影取证技术。它会寻找边缘的不一致之处，这些不一致之处可能表现为颜色的细微变化或缺乏颜色信息的小像素簇（称为伪影）。你很难用肉眼注意到它们，尤其是当每秒有几十帧画面飞快移动时。

当软件进行分析时，它会给出一个百分比或置信度分数，以表明它对图像合法性的把握程度。目前，使用现代人工智能技术伪造单个帧相对简单，但运动会带来额外的挑战，而这通常是软件可以收集线索的地方。

研究表明，错误通常发生在拍摄对象侧面出现、快速旋转超过 45 度或另一个物体快速移动到人脸前时。虽然这些情况在现实世界中相对常见，但它们很少发生在候选人演讲或视频通话中，而这些是选举季的主要目标。

为了训练 Video Authenticator，微软使用了 FaceForensics++ 数据集，这是一组经过处理的媒体，专门用于帮助训练人类和机器识别深度伪造。它包含来自 1,000 个视频的 150 万张图片。构建完成后，微软在 DeepFake 检测挑战数据集上测试了该软件，该数据集是 Facebook AI 作为构建自动检测工具竞赛的一部分创建的。Facebook 聘请了 3,426 名演员出演了超过 100,000 个视频片段，这些片段采用了各种技术进行处理，包括从深度学习方法到简单的数字人脸交换等各种技术。

Facebook 的挑战赛于今年早些时候结束，获胜者 82% 的正确率识别了深度伪造。该公司表示，它已经在使用内部工具来嗅探深度伪造，但尚未公开透露平台上出现了多少深度伪造。

目前，普通用户无法使用微软的视频认证器。它将作为人工智能基金会 Reality Defender 2020 计划的一部分专门提供给该基金会，该计划允许候选人、媒体、竞选活动、政党和社交媒体平台提供疑似虚假媒体进行认证。但将来，这些工具可能会向公众开放。

另一家大型科技公司谷歌一直在努力研究检测换脸的方法；去年，它聘请了演员，并使用类似于 Facebook 的付费演员建立了自己的数据集。虽然谷歌没有公开计划为日常用户提供特定的深度伪造检测网站，但它已经在其图片搜索功能中实现了一些图片处理工具，这通常是试图确定照片是否为假的第一步。

微软并未透露其人工智能工具的成功率具体数字，但调查表现最好的玩家时，基准并不高。Facebook 挑战赛的获胜者在熟悉数据上取得了 82% 的成功率——一旦将其应用于现实世界中拍摄的新视频，且控制变量较少，其准确率就会下降到 60% 左右。加拿大公司 Dessa 在谷歌制作的带控制变量的视频上也取得了类似的成功。然而，对于从网上其他地方获取的视频，它很难达到 60% 的成功率。

我们仍然不知道深度伪造在 2020 年大选中会扮演多大的角色，而且由于社交媒体平台自己进行幕后检测，我们可能永远不知道它会有多糟糕。也许到下次选举时，计算机将能够更好地识别其他自动操纵者的手艺。