一位母亲以为她的女儿被绑架了——只是人工智能在模仿她的声音

诈骗者越来越多地依赖人工智能语音克隆技术来模仿潜在受害者的朋友和亲人，以试图勒索钱财。在最近的一个例子中，一位亚利桑那州的母亲向当地新闻机构讲述了她自己遇到的可怕问题的经历。

“我拿起电话，听到女儿的声音，‘妈妈！’她开始抽泣，”詹妮弗·德斯特法诺本周早些时候告诉斯科茨代尔地区的哥伦比亚广播公司分支机构。“我说，‘发生了什么事？’她说，‘妈妈，我搞砸了，’她开始抽泣和哭泣。”

[相关：联邦贸易委员会密切关注人工智能诈骗者。]

据 DeStefano 称，她随后听到一名男子命令她的“女儿”交出手机，然后他用手机索要 100 万美元以换取她们的自由。随后，他将赎金降至 5 万美元，但仍威胁说，除非他们收到赎金，否则会对 DeStefano 的女儿造成人身伤害。尽管据报道，她的丈夫在接到暴力诈骗电话后五分钟内确认了 DeStefano 女儿的位置和安全，但骗子可以如此轻松地利用人工智能技术模仿几乎任何人的声音，这一事实让安全专家和潜在受害者都感到恐惧和不安。

随着人工智能的飞速发展，曾经昂贵且耗时的人工智能语音模仿等技术现在变得触手可及且价格合理。亚利桑那州立大学计算机科学教授 Subbarao Kambhampati 上个月在接受 NPR 采访时解释说：“以前，[语音模仿技术] 需要复杂的操作。现在小偷小摸也能用它了。”

[相关：联邦贸易委员会为何要成立技术办公室。]

德斯特法诺遭遇的故事发生在联邦贸易委员会就日益猖獗的诈骗伎俩发出警告后不到一个月。联邦贸易委员会在其消费者警告中表示：“人工智能不再是科幻电影中遥不可及的概念。我们现在就生活在人工智能中。”并补充说，骗子现在只需要一段某人的“简短音频片段”，就能重现他们的语气和语调。通常，可以通过社交媒体内容轻松获得此类素​​材。根据坎巴姆帕蒂的说法，音频片段最短可以只有三秒钟，但仍然足以产生令人信服的结果，从而欺骗毫无戒心的受害者。

为了防范日益增多的骚扰和勒索行为，FTC 建议一开始要对此类指控持怀疑态度。这些诈骗通常来自陌生的电话号码，因此重要的是，事后立即尝试联系熟悉的声音以核实故事——无论是通过他们自己的真实电话号码，还是通过亲戚或朋友。骗子经常要求通过加密货币、电汇或礼品卡付款，因此要警惕任何以这些选项作为补救措施的威胁。