人工智能生成的泰勒·斯威夫特色情片在 X 上泛滥。法律会跟上吗？

上周，人工智能生成的非自愿性图片和视频充斥了 X（前身为 Twitter）网站，这些图片和视频似乎显示歌手泰勒·斯威夫特 (Taylor Swift) 参与了性行为，据报道，其中一条帖子在被删除之前已被浏览了 4500 万次。人工智能生成的“深度伪造”色情内容的泛滥持续了数天，直到 X 短暂地完全禁止在平台上搜索这位歌手的名字后，这一趋势才有所减缓。现在，立法者、倡导者和斯威夫特的粉丝们正在利用内容审核失败来呼吁制定新法律，明确将人工智能生成的、具有性意味的深度伪造色情内容的在线传播定为犯罪。

泰勒·斯威夫特的深度伪造视频是如何传播的？

据报道，许多由人工智能生成的 Swift 深度伪造视频都源自臭名昭著的厌恶女性的留言板 4chan 和一些相对不为人知的私人 Telegram 频道。上周，其中一些视频进入了 X，并迅速开始像野火一样传播开来。许多账户向 X 发送了大量深度伪造材料，以至于搜索“Taylor Swift AI”一词就会出现这些图片和视频。The Verge指出，在某些地区，同一个标签被列为热门话题，这最终进一步扩大了深度伪造的传播范围。据报道，其中一条帖子在最终被删除之前获得了 4500 万次浏览量和 24,000 次转发。尽管该帖子违反了公司的服务条款，但 X 花了 17 个小时才删除该帖子。

X 尚未立即回应PopSci的评论请求。

随着新一轮深度伪造的不断涌现，X 管理员于周日介入，屏蔽了平台上“泰勒·斯威夫特”和“泰勒·斯威夫特 AI”的搜索结果。据报道，几天来在该平台上搜索这位流行歌星名字的用户看到了一条错误消息，上面写着“出了点问题”。X 上周在一条推文中正式解决了这个问题，称正在积极监控情况并对传播材料的账户采取“适当行动”。

上周，斯威夫特的众多粉丝们自发发布这位流行歌星的非色情图片，并附上标签 #ProtectTaylorSwift，试图淹没深度伪造。其他人则联合起来举报上传色情材料的账户。该平台于周一正式解除了对斯威夫特姓名为期两天的禁令。

X 业务主管乔·贝纳罗克 (Joe Benarroch) 在发给华尔街日报的声明中表示： “搜索功能已重新启用，我们将继续警惕任何传播此类内容的行为，一经发现，将立即删除。”

为什么会发生这种情况？

斯威夫特和其他名人的性爱深度伪造视频确实出现在其他平台上，但隐私和政策专家表示，X 在被亿万富翁埃隆·马斯克收购后对内容审核采取了独特的不干预态度，这至少是该活动独特病毒式传播的部分原因。据报道，自马斯克掌舵以来，截至 1 月，X 已解雇了约 80% 的信任和安全团队工程师。

平台针对违规内容的主要防线被破坏，使得本来就很困难的内容审核挑战变得更加困难，尤其是在用户大量向平台发布更多潜在违规内容的病毒式传播时刻。近年来，Meta、谷歌和亚马逊运营的其他主要科技平台也同样缩减了自己的信任和安全团队，一些人担心，这可能会导致未来几个月虚假信息和深度伪造的增加。

信任与安全工作人员仍在审查和删除 X 的一些违规内容，但自马斯克接任以来，该公司公开表示更加依赖自动审核工具来检测这些帖子。据报道，X 计划今年晚些时候在德克萨斯州奥斯汀的新“信任与安全卓越中心”再招聘 100 名员工。即使增加了这些员工，信任与安全员工总数仍将只是裁员前的一小部分。

人工智能深度伪造知名政客和名人的克隆作品加剧了人们对该技术如何被用于传播虚假信息或影响选举的担忧，但非自愿色情内容仍然是主要用例。这些图像和视频通常是使用鲜为人知的开源生成式人工智能工具创建的，因为 OpenAI 的 DALL-E 等流行模型明确禁止露骨的色情内容。人工智能技术的进步和工具的广泛使用反过来又导致网络上性爱深度伪造的数量增加。

2021 年，研究人员估计，互联网上大约 90% 至 95% 的深度伪造内容都是非自愿性色情内容，其中绝大多数针对女性。这一趋势没有放缓的迹象。一位独立研究人员最近接受《连线》杂志采访时估计，2023 年上传的深度伪造色情内容比其他所有年份的总和还要多。据报道，人工智能生成的儿童性虐待材料也在增加，其中一些材料是在没有真人图像的情况下创建的。

斯威夫特的追随者将如何影响科技立法

斯威夫特巨大的文化影响力和特别直言不讳的粉丝群正在帮助重振多年来为引入和通过明确针对非自愿深度伪造的立法而做出的努力。自深度伪造材料开始传播以来，微软首席执行官萨蒂亚·纳德拉甚至总统乔·拜登的白宫等重要人物都纷纷发言，呼吁采取行动。包括纽约州民主党众议员伊维特·克拉克和新泽西州共和党众议员汤姆·基恩在内的多名国会议员发表声明，推动立法，试图将非自愿深度伪造色情内容的分享定为犯罪。基恩。其中一项名为《防止亲密图像深度伪造法案》的法案可能会在今年进行表决。

深度伪造色情和打击它的立法努力并不新鲜，但斯威夫特突然与这个问题联系在一起可能会成为社会的催化剂。这种现象的回响发生在 2022 年，当时司法部宣布将对 Live Master 展开反垄断调查，因为该网站因斯威夫特“时代”巡回演唱会预售门票的需求而崩溃。这一事件重新引发了一些音乐迷长期以来对 Live Nation 及其所谓的垄断行为的不满，以至于该公司的高管被迫参加参议院司法委员会听证会，对他们的商业行为进行质询。多名议员公开发表声明，支持“拆分”Live Nation-Ticketmaster。

这次深度伪造是否会引起同样程度的政治动员还有待观察。不过，在 Swift 深度伪造惨败之后，人们对控制人工智能最黑暗用例的法律的兴趣有所提升，这表明让具有文化相关性的傀儡将他们的名字与原本鲜为人知的政策追求联系起来的力量。这种相关性可以帮助将法案推上议程的首位，否则，它们注定会被默默无闻。