YouTube 的极端主义兔子洞很深但很窄

在 2016 年总统大选后的几个月里，越来越多的证据表明 YouTube 的视频推荐可能会让观众陷入极端主义和仇恨内容的泥潭。激烈的批评最终导致 YouTube 在 2019 年初发表公开声明，宣布对其内容算法进行更改，以减少“边缘内容和可能以有害方式误导用户的内容的推荐”。从那时起，YouTube 声称其增强功能使用户通过推荐提要观看种族主义、性别歧视和其他偏见内容的时间减少了至少 50%。

目前公开的实证证据很少，但新研究证实 YouTube 的算法至少有一些积极的改进。尽管如此，专家警告称，这些积极因素并不能消除激进内容继续对用户和公众造成的伤害。

根据纽约城市大学、斯坦福大学、达特茅斯学院、东北大学和埃克塞特大学的研究小组进行的一项研究，YouTube 的算法推荐不一定会引导用户进入激进的兔子洞，“这可能是由于该公司在 2019 年对其推荐系统所做的更改。”

[相关：OpenAI 最新的 ChatGPT 更新仍然可以传播阴谋论。]

该团队的研究结果于 8 月 30 日发表在《科学进展》杂志上，利用了美国的一项民意调查以及 2020 年 7 月至 12 月期间 1,181 名受访者自愿提供的浏览数据。

相反，极端主义和敌对内容的曝光主要集中在一小部分已有倾向的用户身上。不过，该团队认为，该平台“继续在促进忠实受众接触另类和极端主义渠道的内容方面发挥着关键作用”。不仅如此，参与这些内容还能带来广告利润。

《科学进展》编辑亚伦·肖在一篇附带文章中写道：“这项研究证实，像 YouTube 这样的平台可以而且应该采取更多措施，将极端主义内容的传播范围限制在专门寻找这些内容的受众范围内。”“YouTube 及其母公司 Alphabet 应该放弃与与其减少仇恨言论、骚扰和有害阴谋论传播的公开承诺相矛盾的内容相关的创收活动。”

米利肯继续说道：“在社交媒体平台在遏制仇恨和错误信息方面努力出现倒退的时代，YouTube 应该将这项研究和其他最新研究视为令人鼓舞的迹象，并继续投资解决方案，使其成为所有消费者和社会的安全平台。”

致力于监控极右翼虚假信息的非营利组织 Media Matters 的副总裁朱莉·米利肯 (Julie Millican) 认为，YouTube 改进算法以更好地限制极端主义内容的传播值得称赞。她告诉PopSci ：“然而，事实仍然是，仇恨、偏执和阴谋内容在该平台上仍然猖獗，对于那些寻找这些内容的人来说太容易找到了。”“即使只有一小部分用户因平台上的内容而变得激进，我们也一次又一次地看到，这种激进化可能会带来致命的后果。”

尽管继续研究 YouTube 的推荐系统至关重要且值得称赞，但该研究的研究人员也表示，“即使是低水平的算法放大，如果推广到 YouTube 庞大的用户群和时间范围内，也会产生破坏性后果。”根据最近的报道，大约有 2.47 亿美国人定期使用该平台。截至本文撰写时，YouTube 代表尚未回应PopSci 。