这个虚构的新闻节目完全由人工智能和深度伪造制作

这个虚构的新闻节目完全由人工智能和深度伪造制作

一家专门研究虚假信息的研究公司 Graphika 周二发布了一份令人震惊的报告,揭示了备受争议的深度伪造技术的发展程度。他们的研究结果详细描述了似乎是国家首例利用完全由人工智能生成的“新闻”镜头进行宣传的影响力行动。尽管最终产品相对笨拙,网络影响力似乎较小,但虚构媒体 Wolf News 的人工智能电视主播去年批评了美国在枪支暴力问题上的不作为,并在即将举行的国际峰会上赞扬了中国的地缘政治责任和影响力。

《纽约时报》周二提供的补充报道,Wolf News 的两位主播可以追溯到 Synthesia 提供的“Jason”和“Anna”化身,Synthesia 是一家成立五年的英国初创公司,以每月 30 美元的价格向客户提供深度伪造软件。Synthesia 目前提供至少 85 个以真人演员为原型的角色,涵盖各个年龄、性别、种族、语调和衣着。客户还可以生成自己的化身,也可以生成任何同意的人的化身。

[相关:深度伪造、错误信息和视频编辑的历史。]

Synthesia 的产品主要作为节省成本和时间的解决方案的工具进行销售,例如公司内部的人力资源培训视频。该公司网站上宣传的过去客户包括亚马逊和诺和诺德。Synthesia 的示例以及《纽约时报》重点介绍的宣传片段质量并不高——虚拟形象说话的语调大多单调,面部表情呆板,音频延迟,眨眼速度太慢等动作不切实际。

通常情况下,这不是问题,因为客户愿意牺牲这些方面,以换取通常平凡项目的大幅降低运营成本。不过,Graphika 的专家警告称,该技术正在迅速改进,很快就会呈现出与真实视频难以区分的虚假信息。

[相关:“历史”聊天机器人不仅不准确,而且很危险。]

Synthesia 的服务条款明确禁止生成“政治、性、个人、犯罪和歧视性内容”。尽管该公司有一个由四人组成的部门负责监控客户的深度伪造内容违规行为,但与仇恨言论或露骨内容相比,仍然很难标记诸如虚假信息或宣传之类的细微问题。Synthesia 的联合创始人兼首席执行官 Victor Riparbelli 告诉《纽约时报》 ,该公司对安全漏洞负有全部责任,并且 Wolf News 的订阅者随后因违反公司政策而被禁止。

尽管 Graphika 发现的数字宣传似乎只影响到了少数网络用户,但该公司警告称,坏人利用更好的技术制作极具说服力的视频和图像来开展各自的影响力行动只是时间问题。去年 11 月,Riparbelli 在 Synthesia 网站上发表的一篇博客文章中,要求政府制定全面的立法来规范“合成媒体”和深度伪造行业。

<<:  谷歌即将推出的人工智能聊天机器人利用了其搜索引擎的强大功能

>>:  微软认为 ChatGPT 将使 Bing 变得有用

推荐阅读

梦想、幻想与现实:走进本田日本研发实验室

本田在短短几分钟内向我们展示了驾驶的未来。它和你想象的不一样。没错,它是电动的,但不仅仅依赖电池。它...

10 岁儿童在科学课上意外创造出新分子

克拉拉·拉森 (Clara Lazen) 是四硝基氧碳的发现者,四硝基氧碳是一种由氧、氮和碳构成的分...

亚马逊 Fire 7 儿童平板电脑可以帮助孩子们保持忙碌——而且它正在促销

当你需要专心完成工作或在餐厅吃饭时,可以给孩子一些时间玩屏幕,以免孩子脾气暴躁。如果你正在寻找一款适...

通过安装大量模组来定制你的 Minecraft 体验

你已经开发Minecraft世界一段时间了。你有全套钻石盔甲,湖畔豪宅旁边有一片种满南瓜和西瓜的田地...

哺乳动物可能利用同性性行为来解决冲突、建立联系等

已知有 1500 多种动物,从倭黑猩猩到海胆再到企鹅,都存在同性性行为。然而,科学家们并不了解这种行...

为实现可再生能源目标,各国正在跨境共享能源

在排放出最后一缕煤烟后的几十年里,里奇伯勒发电站的冷却塔一直耸立在英格兰东南部肯特郡的低地上,引导渔...

世界上每个人都在一张图表上

当你在电脑屏幕上看到世界人口已超过 70 亿(2011 年)时,很难理解这个数字的含义。世界这么大。...

几个世纪以来植物狩猎是如何演变的

文艺复兴时期的探险家遇到的众多奇迹中,最主要的是欧洲从未见过的新奇植物。西班牙地理学家马丁·费尔南德...

这款 Shark 宠物友好型空气净化器目前在亚马逊上享受 38% 的折扣

春天来了,过敏症也随之而来。目前,亚马逊以 149 美元的价格出售 Shark 紧凑但功能强大的空气...

章鱼重写自己的 RNA 以在极寒天气中生存

章鱼无所不能,从它们标志性的伪装到向其他章鱼扔贝壳,但它们无法做到的一件事就是体温调节。由于这种进化...

班格梦想! Morfonication——深度回顾音乐与故事的融合

班格梦想! Morfonication - Bandori Morfonication - 综合评测...

Hello Kitty 的神秘湖:精彩故事和视觉效果的回顾

Hello Kitty 的神秘水域 - Hello Kitty 的神秘水域概述《Hello Kitt...

《放飞太阳》的魅力与评价:深度评论

驱动幻想的太阳 - 驱动幻想的太阳概述《幻影破坏神太阳》是2013年播出的电视动画,原作是动画的原创...

《粗点心战争2》的魅力与评价:续集的深度与角色成长

《粗点心战争2》——这部兼具怀旧与新鲜感的糖果喜剧的魅力《粗点心战争 2》是一部于 2018 年播出...

18 个值得在 iPhone 上尝试的酷炫 iOS 18 新功能

iOS 18 于 6 月发布后终于登陆 Apple 设备。只要您的手机运行 iOS 17,就有资格免...