Meta 正在开源其自动内容审核工具

在线内容审核很难（埃隆·马斯克目前就发现了这一点）。但 Meta（Facebook、Instagram 和 WhatsApp 背后的公司）希望让其他平台更容易审核内容。上周，该公司宣布将开放其 Hasher-Matcher-Actioner (HMA) 工具的源代码并免费提供。此消息发布之际，Meta 即将担任全球互联网反恐论坛 (GIFCT) 运营委员会主席。

GIFCT 由 Facebook、微软、Twitter 和 YouTube 于 2017 年创立，现已发展成为一个非营利组织，与会员公司、政府和民间社会组织合作，打击互联网上的恐怖主义和暴力极端主义内容。其中一个方面是维护一个共享的极端主义内容哈希数据库，这样如果一家公司（例如 Facebook）将某些内容标记为与恐怖主义有关，其他公司（例如 YouTube）将能够自动将其删除。

为了使这些数据库有效工作（这样公司就不必存储数 PB 的恐怖暴力内容），它们不会存储违规内容的完整副本。相反，它们会存储唯一的数字指纹或哈希值。

哈希的生成方式如下：从本质上讲，极端主义视频、恐怖分子照片、PDF 宣言或其他任何东西的副本都会通过算法转换成一个独特的数字和字母字符串。您无法使用哈希重新创建内容，但将同一视频放入算法中总会得到相同的结果。只要所有平台都使用相同的算法来创建哈希，它们就可以使用共享数据库来跟踪恐怖分子内容。

[相关：反疫苗者使用表情符号逃避 Facebook 监管]

Meta 的 HMA 工具允许平台自动对任何图像或视频进行哈希处理，将其与数据库进行匹配，并对其采取行动（例如阻止发布视频或阻止试图发布视频的帐户）。它不仅限于恐怖主义内容，还可以与 GIFCT 维护的共享数据库或 YouTube 的 Content ID 等专有数据库配合使用。

值得指出的是，所有这些都是在后台始终发生的。一旦 HMA 或任何其他类似的自动化工具启动并运行，用户发布的所有照片和视频都会在上传时根据相关数据库进行哈希处理和检查。如果某些内容后来被版主标记为暴力、冒犯或其他需要删除的内容，它可以返回并自动删除平台上的其他实例。这是一个持续的过程，旨在防止令人反感的内容被看到或传播。

虽然大多数大型平台已经采用了某种形式的自动化内容审核，但 Meta 希望其 HMA 工具能够帮助那些缺乏大型平台资源的小型企业。英国前副首相、现任 Meta 全球事务总裁的尼克·克莱格 (Nick Clegg) 在新闻稿中解释道：“许多公司不具备内部技术能力来查找和审核大量违规内容。”参与共享哈希数据库的公司数量越多，每家公司删除恐怖内容的能力就越强——尤其是因为这些内容很少只在一个地方分享。“人们通常会从一个平台转移到另一个平台来分享这些内容。”

Meta 声称去年在安全保障方面花费了约 50 亿美元，并致力于打击恐怖主义内容，这是“保护用户免受我们服务中有害内容侵害的更广泛方法的一部分”。克莱格声称，“现在 Facebook 每 10,000 次内容浏览中就有 2 次仇恨言论，而不到三年前，这一数字为每 10,000 次浏览 10-11 次。”由于无法访问 Facebook 的内部数据，我们无法验证这一说法，而且一些报告似乎表明该公司自己的系统远非完美。然而，HMA 和监督委员会等举措至少给人留下了这样的印象：Meta 认真对待以公平一致的方式解决内容审核问题——与 Twitter 不同。