Meta 正在开源其自动内容审核工具

Meta 正在开源其自动内容审核工具

在线内容审核很难(埃隆·马斯克目前就发现了这一点)。但 Meta(Facebook、Instagram 和 WhatsApp 背后的公司)希望让其他平台更容易审核内容。上周,该公司宣布将开放其 Hasher-Matcher-Actioner (HMA) 工具的源代码并免费提供。此消息发布之际,Meta 即将担任全球互联网反恐论坛 (GIFCT) 运营委员会主席。

GIFCT 由 Facebook、微软、Twitter 和 YouTube 于 2017 年创立,现已发展成为一个非营利组织,与会员公司、政府和民间社会组织合作,打击互联网上的恐怖主义和暴力极端主义内容。其中一个方面是维护一个共享的极端主义内容哈希数据库,这样如果一家公司(例如 Facebook)将某些内容标记为与恐怖主义有关,其他公司(例如 YouTube)将能够自动将其删除。

为了使这些数据库有效工作(这样公司就不必存储数 PB 的恐怖暴力内容),它们不会存储违规内容的完整副本。相反,它们会存储唯一的数字指纹或哈希值。

哈希的生成方式如下:从本质上讲,极端主义视频、恐怖分子照片、PDF 宣言或其他任何东西的副本都会通过算法转换成一个独特的数字和字母字符串。您无法使用哈希重新创建内容,但将同一视频放入算法中总会得到相同的结果。只要所有平台都使用相同的算法来创建哈希,它们就可以使用共享数据库来跟踪恐怖分子内容。

[相关:反疫苗者使用表情符号逃避 Facebook 监管]

Meta 的 HMA 工具允许平台自动对任何图像或视频进行哈希处理,将其与数据库进行匹配,并对其采取行动(例如阻止发布视频或阻止试图发布视频的帐户)。它不仅限于恐怖主义内容,还可以与 GIFCT 维护的共享数据库或 YouTube 的 Content ID 等专有数据库配合使用。

值得指出的是,所有这些都是在后台始终发生的。一旦 HMA 或任何其他类似的自动化工具启动并运行,用户发布的所有照片和视频都会在上传时根据相关数据库进行哈希处理和检查。如果某些内容后来被版主标记为暴力、冒犯或其他需要删除的内容,它可以返回并自动删除平台上的其他实例。这是一个持续的过程,旨在防止令人反感的内容被看到或传播。

虽然大多数大型平台已经采用了某种形式的自动化内容审核,但 Meta 希望其 HMA 工具能够帮助那些缺乏大型平台资源的小型企业。英国前副首相、现任 Meta 全球事务总裁的尼克·克莱格 (Nick Clegg) 在新闻稿中解释道:“许多公司不具备内部技术能力来查找和审核大量违规内容。”参与共享哈希数据库的公司数量越多,每家公司删除恐怖内容的能力就越强——尤其是因为这些内容很少只在一个地方分享。“人们通常会从一个平台转移到另一个平台来分享这些内容。”

Meta 声称去年在安全保障方面花费了约 50 亿美元,并致力于打击恐怖主义内容,这是“保护用户免受我们服务中有害内容侵害的更广泛方法的一部分”。克莱格声称,“现在 Facebook 每 10,000 次内容浏览中就有 2 次仇恨言论,而不到三年前,这一数字为每 10,000 次浏览 10-11 次。”由于无法访问 Facebook 的内部数据,我们无法验证这一说法,而且一些报告似乎表明该公司自己的系统远非完美。然而,HMA 和监督委员会等举措至少给人留下了这样的印象:Meta 认真对待以公平一致的方式解决内容审核问题——与 Twitter 不同。

<<:  此 macOS 功能将简化您管理和重新格式化文件的方式

>>:  如何在不损坏键盘的情况下清洁键盘

推荐阅读

细菌生活在33000英尺的高空

惊人的!地球的高层大气温度低于冰点,几乎没有氧气,充斥着紫外线,不适合人类居住。但去年冬天,佐治亚理...

《指尖的激情-我的青梅竹马是消防员-》完全版评价与感想

《指尖的激情-我的童年伙伴是消防员-完整版》的号召与评价《指尖的真实激情 -我的青梅竹马是消防员- ...

我们最近的邻近恒星系统听起来像是一个可怕的居住地

有一颗行星距离我们仅 4 光年,它绕着一颗恒星旋转,距离恰到好处——不太近,也不太远——以至于它的表...

这种新品种的粉色兰花看起来像精致的玻璃制品

大约十年前,神户大学生物学家末次健二前往位于东京东郊的日本千叶县进行研究旅行。在那里,绿色和棕色草地...

对于这些有袋动物来说,性比睡眠更重要

有袋动物绝不是一群无聊的哺乳动物。袋鼠拥有动物界最强大的踢腿能力,袋熊以粪便块而闻名,考拉的饮食有毒...

纳米灯泡

上个世纪,计算机技术从笨重的真空管跃升至时尚的芯片,未来几年可能再度带来同样巨大的变革。这是哥伦比亚...

《网球王子》Q版角色动画的魅力与评价:OVA衍生作品#1评论

《网球王子Chibi角色Flash动画》:展现网球王子新魅力的外传作品《网球王子 Chibi Cha...

5 项活动让孩子们知道地图也可以很有趣

在康涅狄格州索斯温顿山脚下,我把滑雪路线图递给了七岁的女儿。地图左侧是一条绿色的滑雪道,像一只叉腰的...

美国每年有超过十亿只鸟因撞上建筑物而死亡

玻璃窗是人类工程学的奇迹——透明、几乎看不见的坚固材料,让我们能够将自然光带入封闭的建筑物。然而,在...

根据 1939 年的预测,世界将会如何终结

有人说世界将灭亡于火海,有人说世界将灭亡于冰海。1939 年的科学家们想将“月球爆炸”和“巨型流星”...

Mimika [第 3 季] 的吸引力和评论:新的冒险和情感之旅

增进口味! Mimika [第 3 季]-奇迹! Mimika [第 3 季] 全面评论和推荐概述《...

加油! 《长州君》:全面回顾热血动人的青春故事

加油!长州君■ 公共媒体电视动画系列■ 原创媒体动漫原创■ 播出时间2022 年 8 月 1 日 -...

透彻解析企鹅男孩露露和琪琪的魅力与情感!充满精彩建议的评论

企鹅男孩露露和琪琪——怀旧短篇动画的魅力《露露和企鹅琪琪》于 1958 年 1 月 1 日首次播出,...

Makoto-chan:彻底回顾一个纯情与成长的故事

“Makoto-chan”:一个充满活力的幼儿园孩子的冒险和成长■ 公共媒体剧院■ 原创媒体漫画■ ...

迈凯伦最新款超级跑车将让你在 11 秒内头发随风飘扬

迈凯伦开发的每一款公路车都是性能强劲的机器。这家历史悠久的赛车运动公司早在 1992 年就推出了首款...