监督委员会称 Facebook 自动图片删除系统存在缺陷

2019 年，Meta（原名 Facebook）首席执行官马克·扎克伯格宣布成立一个独立的内容监督委员会。这个由 23 名专家和民间领袖组成的委员会的任务是审查有争议的审核决定，因为批评者和用户对公司复杂且看似不平衡的政策提出了压力。据扎克伯格当时称，他自封的社交媒体最高法院的裁决“将具有约束力，即使我或 Facebook 的任何人不同意”。从那时起，该委员会就仇恨言论、虚假信息和裸露等问题发布了多项裁决。但该组织的最新决定可能是迄今为止对 Meta 内部公司战略和应对持续存在的问题的能力最严厉的批评。 适度 问题。

今天早些时候，监督委员会公布了其对之前删除哥伦比亚一幅描绘警察暴力的政治漫画的上诉程序的调查结果。在今天早上在线发布的一份声明中，委员会解释了为什么 Facebook 应该从 Facebook 的人工智能辅助媒体匹配服务库中删除这幅漫画，该系统使用人工智能扫描来识别和删除违反网站内容政策的标记图像。他们还讨论了为什么整个当前系统存在严重缺陷。

[相关：倡导者称，Meta 可以保护与堕胎相关的 DM。]

监督委员会写道：“Meta 错误地将这幅漫画添加到其媒体匹配服务库中，导致平台上大量不成比例的图片被删除，包括该案中用户发布的内容。”并警告说，“尽管有 215 名用户对这些删除提出上诉，其中 98% 的上诉获得成功，但 Meta 仍然没有从该库中删除这幅漫画，直到案件提交到委员会。”

监督委员会继续解释说，Facebook 现有的自动内容删除系统可以（而且已经）放大人类员工做出的错误决定。考虑到此类选择的连锁反应，这尤其成问题。它警告说：“当内容包括批评国家行为者的政治言论时，错误添加到此类银行的风险尤其高，就像本案一样。”在其建议中，委员会要求 Facebook 公开媒体匹配服务银行的错误率，并按内容政策细分，以提高透明度和问责制。

[相关：Meta 的聊天机器人正在重复用户的偏见和错误信息。]

不幸的是，社交媒体的“最高法院”与华盛顿特区的最高法院有所不同——尽管 Facebook 是一个独立委员会，但它没有任何法律义务遵守这些建议。不过，在向公众公布监督委员会的意见时，扎克伯格和 Meta 高管至少可能面临继续改革其审核策略的额外压力。