Facebook 无法通过自动化解决仇恨言论问题

人们究竟应该如何在网上互相交流？对于 Facebook 来说，这既是一个运营问题，也是一个哲学问题。

上周，Facebook 宣布其用户数已达 20 亿，这意味着全球 75 亿人口中约有 27% 的人使用该社交媒体网络。在 Facebook 的“难题”博客上发表的一篇文章中，该公司分析了该公司管理仇恨言论背后的内部逻辑。就在前一天，ProPublica 爆料称，Facebook 管理仇恨言论的方式显然是虚伪的。综合来看，这些因素让 Facebook 试图规范言论的努力看起来不可能实现。

语言很难。例如，经过人类语言训练的人工智能会复制用户的相同偏见，只需观察单词之间的关联即可。同一个句子中的同一个词可能会根据说话者的身份、对象的身份，甚至对话方式而具有不同的含义。这甚至还没有考虑给定单词的多种定义。

“‘烧国旗而不是烧同性恋’这句话是什么意思？”Facebook 欧洲、中东和非洲公共政策副总裁理查德·艾伦写道。“虽然这显然是一句挑衅性的言论，但它应该被视为仇恨言论吗？例如，它是对同性恋者的攻击，还是试图‘重新夺回’诽谤？它是通过焚烧国旗来煽动政治抗议吗？或者，如果演讲者或听众是英国人，这是在劝阻人们不要吸烟（英国人常用 fag 来指香烟）吗？要知道这是否是仇恨言论，需要更多的背景信息。”

记者联系到一位 Facebook 发言人，他确认“难题”帖子并不代表任何新政策。相反，它只是对 Facebook 言论监管逻辑的透明度。

耶鲁大学信息社会项目常驻研究员凯特·克洛尼克 (Kate Klonick) 说：“人们希望某些东西被删除，他们想要有言论的权利。他们希望有一个完美的过滤器，可以删除那些仇恨言论、种族主义、性别歧视或极具冒犯性的言论。”

Facebook 可能正在分析其如何规范公开言论的一个原因是，由于大量内部文件泄露给《卫报》，其他人正在报道 Facebook 如何内部指导删除哪些言论以及保留哪些言论。

“根据一份文件，移民可以用‘肮脏的’来形容，但不能被称为污秽，”ProPublica 报道说，“该文件解释说，‘当以名词形式进行比较时’，他们不能被比作污秽或疾病。”

Klonick 研究了 Facebook 如何管理其用户，尽管“难题”帖子中讨论的审核方式并不新鲜，但透明度却是新鲜事。Klonick 说：“这种情况已经不是什么秘密了，你的声音受到审核，你的信息在幕后受到审核。”

在克洛尼克看来，通过开始披露更多香肠工厂内部情况，Facebook 正试图抢先一步引发外界对 Facebook 如何选择审核言论的批评。

不过，除了 Facebook 运营所在国家的法律要求外，没有任何规定要求 Facebook 必须规范其所有言论。《难题》文章中的几个例子取决于具体情况：这个人是在重新提起以前的诽谤言论，还是朋友之间的玩笑，或者是陌生人对受保护群体成员的攻击？但是，如果战争突然将一个术语从随意使用变为被报道为仇恨言论，会发生什么？

《Hard Questions》的一个例子是 Facebook 如何处理“moskal”（乌克兰语中指俄罗斯人）和“khokhol”（俄语中指乌克兰人）这两个词。2014 年，俄罗斯和乌克兰爆发冲突时，两国人民都开始举报对方使用的词语，认为这是仇恨言论。对此，艾伦说：“我们进行了内部审查，认为他们说得对。我们开始删除这两个词语，这一决定最初在双方中都不受欢迎，因为它似乎具有限制性，但在冲突的背景下，我们觉得这很重要。”

网站上举报功能的一个常见用途是，人们只需举报与他们意见不合的人，即可利用网站审查其意识形态对手的能力。在战争中，普通语言变成了辱骂，Facebook 似乎选择通过删除带有冒犯性词语的帖子来尝试平息紧张局势。

“我认为这个例子非常有趣，因为他明确表示，审查这些词语的决定不受双方欢迎，”电子前哨基金会国际言论自由部主任吉莉安·约克 (Jillian York) 表示。“这在很大程度上是一种价值判断。这并不是说‘人们因为这个词语而自杀，所以我们在保护自己免于承担责任’；这是他们所做的一件事，一件更容易理解的事情。这是 Facebook 所说的，‘人们不想要这个，但我们无论如何决定这对他们来说是正确的。’”

尽管 Facebook 最终会制定删除和保留内容的政策，但审核工作是由人来完成的，就像 Facebook 对视频的审核一样，在可预见的未来，这项工作仍将由人来完成。

“人们认为自动化很容易，但我认为那篇博文说明了为什么现在自动化如此困难，我们距离自动化还有多远，”Klonick 说。“这些都是人类难以做出的判断，我们距离自动化还有好几年的时间。Richard Allen 在他的博文中谈到的这些例子正是我们距离自动化这一过程如此遥远的原因。”

再次，Facebook 正在为超过四分之一的世界人口制定言论规则和标准，历史上很少有政府能够接近或超过这一水平。（古波斯是一个罕见的例外）。鉴于这项任务的艰巨性，值得关注的不仅是 Facebook 如何选择规范言论，还有它为什么选择这样做。

“从规模上看，为 20 亿人审核内容是不可能的，”约克说，“那么为什么要选择超越法律的限制呢？Facebook 为什么要试图成为世界监管者呢？”