礼貌警告在减少社交媒体上的仇恨言论方面出奇地有效

仇恨言论是一个广泛存在的有害问题，困扰着社交媒体。外交关系委员会表示，它甚至会渗透到针对少数群体的真正暴力行为中，这是一个严重的问题，世界各国政府正在绞尽脑汁解决。许多科技公司一直在想办法阻止仇恨言论的蔓延——但这是一项艰巨而复杂的任务。

纽约大学社交媒体与政治研究中心的研究人员想出了一个主意：如果你追踪那些因仇恨言论而被封禁的账号的关注者，并向这些关注者（他们也在推文中使用仇恨言论）发出警告，提醒他们注意自己的不良行为，结果会怎样？这些用户会被迫更改他们发布的内容吗？答案是肯定的——至少在收到警告后的短时间内是这样。研究人员的研究结果于周一发表在《政治观点》杂志上。

“在关于是否暂停账户的公共政策对话中，我们总是面临的一个权衡是，这些人在其他平台上会遭遇什么，”纽约大学社交媒体与政治研究中心联席主任、论文作者乔舒亚·塔克 (Joshua Tucker) 表示。“最近的研究表明，在英国一群右翼白人民族主义者被停职后，Telegram 上这些群体的活动量大幅增加。”

[相关：推特应对误导性推文的努力只是让他们在其他地方蓬勃发展]

纽约大学博士生、这项研究的第一作者米克达特·耶尔迪里姆 (Mikdat Yildirim) 表示，他们希望找到一个“最佳解决方案”，让这些账号不一定会遭到封禁，但会受到某种推动，阻止他们发表仇恨言论。这样一来，干预措施“既不会限制他们表达自己的权利，也不会阻止他们转向更激进的平台。”换句话说，这是一种警告，而不是压制。

收集“停职候选人”

计划是什么？创建一组六个 Twitter 账户，像虚拟的义务巡逻员一样运作，在公共信息流上查找、宣布和标记违规者。这些账户发布的警告具有类似的结构。每个账户都标记了使用仇恨言论的账户的完整用户名，警告他们，他们关注的某个账户最近因使用类似语言而被暂停使用，如果他们继续像以前那样发推文，他们可能会成为下一个。每个账户的警告措辞略有不同。

但首先，研究人员必须确定可能被停用的潜在违规者。该团队于 2020 年 7 月 21 日下载了过去一周发布的 60 多万条推文，并将其范围缩小到包含至少一个来自先前研究中使用的仇恨语言词典的单词的推文（这些单词以种族或性仇恨为中心）。他们关注了大约 55 个帐户，并在这些帐户被停用之前收集了其中 27 个帐户的关注者名单。

“我们并没有将这些消息发送给他们的所有粉丝；我们只向那些在推文中使用仇恨言论超过 3% 的粉丝发送了这些消息，”Yildirim 解释道。最终共有大约 4,400 名用户参与了这项研究。其中，700 人属于对照组，没有收到任何警告，3,700 名用户收到了由研究人员运营的六个 Twitter 账户之一发出的警告。

“我们收到了 200 多条针对我们推文的回应。其中一些人对我们的警告感到有些愤怒，认为他们有权随心所欲地表达自己的想法，”Yildirim 说。“其中一些人很谨慎，他们想知道哪些推文导致我们向他们发出这些警告。”

[相关：社交媒体确实让我们在道德上更加愤怒]

对于他们关注的每一个用户，研究人员分别在发出警告前一个月、一周前、一周后和一个月后测量了他们仇恨推文与非仇恨推文的比例。

“我们发现，与对照组相比，治疗组发布的带有仇恨语言的推文平均减少了 10% 左右，”Yildirim 说道。此外，他们还发现，措辞尽可能礼貌的警告在减少仇恨语言方面效果最好。“但当然，治疗一个月后，这种影响就消失了。”

塔克指出，如果效果能持续更久就好了。但是，看到一个他们甚至没有关注的账户发了一条推文后的效果，有点“不可思议”。

“可能真正重要的是让人们意识到有人在监视他们，或者有人对他们说了些什么，”他说。“或者，最有效的治疗方法是真正了解到你选择关注的账户因你正在做的事情而被暂停，这对人们来说是一种警示。”

Twitter 本身一直在积极打击其平台上的仇恨言论。今年早些时候，该公司推出了一项功能，在用户发布可能有害或冒犯的内容之前发出警告。“但我们不知道这项功能对我们的实验是否有效，”塔克说。“也许他们尝试了我们的实验，但从未向任何人报告过。”

事实上，如果没有广泛的研究，很难衡量某些功能的好处。塔克说，如果是 Twitter 运营这些账户，他们可能会观察到截然不同的效果。这就是为什么“社交媒体公司必须更加透明地公开他们内部进行的研究，”他说，“但也要与独立研究人员分享更多数据，并与独立研究人员一起参与研究设计合作的项目。”