Deepfake 音频的欺骗率已经达到近 25%

音频深度伪造通常已经非常逼真，而且有理由预计其质量只会随着时间的推移而提高。但即使人类尽了最大努力，他们显然也无法很好地辨别原始声音和人工生成的声音。更糟糕的是，一项新研究表明，人们目前对此无能为力——即使在尝试提高检测技能之后也是如此。

根据今天发表在PLOS One上的一项调查，深度伪造音频已经能够欺骗人类听众大约四分之一的尝试。这一令人不安的统计数据来自英国伦敦大学学院的研究人员，他们最近要求 500 多名志愿者审查英语和普通话的深度伪造和真实声音的组合。在这些参与者中，一些人提前获得了深度伪造声音的示例，以帮助他们为识别人造片段做好准备。

[相关：这个虚构的新闻节目完全由人工智能和深度伪造制作。]

然而，无论是否接受过培训，研究人员发现，参与者平均正确识别深度伪造的准确率约为 73%。虽然从技术上讲，按照大多数学术标准，这是一个及格分数，但错误率足以引起严重担忧，尤其是当接受和未接受预审培训的人之间的错误率平均相同时。

考虑到深度伪造技术在短短的生命周期内已经取得的成就，这一情况非常令人担忧——例如，今年早些时候，诈骗者几乎成功地利用一位母亲女儿被绑架的深度伪造音频从她那里勒索了现金。而且，在处理这种可怕情况时，她已经远远不是唯一一个。

当你读懂（或者，在这种情况下，倾听）字里行间的内容时，结果会更加令人担忧。研究人员指出，他们的参与者在实验前就知道他们的目标是听深度伪造的音频，因此很可能让他们中的一些人已经对伪造行为保持高度警惕。这意味着毫无戒心的目标很容易比实验中的人表现更差。该研究还指出，该团队没有使用特别先进的语音合成技术，这意味着更令人信服的音频已经存在。

[相关：人工智能语音过滤器可以让你听起来像任何人，也可以让任何人听起来像你。]

有趣的是，如果正确标记，深度伪造视频的潜在泄露会因参与者使用的语言而异。英语流利的人最常报告“呼吸”是泄露的指标，而普通话使用者则关注流利度、节奏和韵律作为泄露的指标。

然而，目前，该团队认为，改进自动检测系统是打击不受欢迎的人工智能声音克隆的一个有价值且现实的目标，但也建议众包对深度伪造进行人工分析可能会有所帮助。无论如何，这又是一个支持对深度伪造和其他生成性人工智能技术进行严格监管审查和评估的论点。