Facebook 正在招聘 3000 名新内容监控员，以完成 AI 无法完成的工作

昨天，马克·扎克伯格宣布 Facebook 将招聘 3,000 人加入其社区运营团队，负责审查用户举报的图片、视频和帖子。这些新员工将加入现有的 4,500 名员工，努力将未来类似罗伯特·古德温枪击案的事件的影响降至最低。对于 Facebook 来说，这是一笔相当可观但必不可少的投资，但它引出了一个基本问题：这项工作不能自动化吗？

这项工作规模巨大：Facebook 招聘的人数比《纽约时报》、《华尔街日报》和《华盛顿邮报》新闻编辑室的人数还要多。Facebook 目前尚未透露这些工作是正式员工还是合同工，以及工作地点是在美国还是在国外。（想知道这项工作是什么样的吗？请阅读 Adrien Chen 于 2014 年对内容审核的深入分析，或观看有关审核过程的视频）

“这些审核员还将帮助我们更好地删除 Facebook 上不允许的内容，例如仇恨言论和儿童剥削，”Facebook 首席执行官扎克伯格写道。“我们将继续与当地社区团体和执法部门合作，他们最有能力在需要时帮助人们——无论是因为他们即将伤害自己，还是因为他们受到他人的威胁。 ”（重点补充）

潜台词是 4 月 16 日克利夫兰罗伯特·古德温被谋杀案。根据 Facebook 发布的时间线，4 月 16 日东部时间下午 2:09，一名男子上传了一段视频，声称他有谋杀的意图。两分钟后，该男子上传了枪击古德温的视频。此后不久，谋杀嫌疑人在 Facebook 上发布了五分钟的直播。枪击视频于下午 4 点被报道，到 4:22，Facebook 暂停了枪手的帐户，并从公众视野中删除了他的视频。从最初的帖子到帐户被暂停，只隔了两个多小时，但 Facebook 的普及和谋杀的恐怖性质使其成为全国新闻。

有些内容在上传时会被 Facebook 预先审查。该公司使用自动化系统来查找第二次上传时被删除的裸照和色情照片。该社交网络还采用了 PhotoDNA 工具，该工具可以将图片与已知的儿童色情照片标记数据库进行交叉引用，以便屏蔽这些照片并向相关法律部门报告。在这两种情况下，自动化系统都会根据先前已知的数量进行检查。

该流程中的大多数自动化功能都有助于人工内容审核人员的手动执行。如果某条内容被举报 1,000 次，这些工具会识别出重复举报，因此只需手动审核一次。其他工具会将图片、帖子或视频转交给具有特定专业知识的审核人员；例如，会说阿拉伯语的人可以审核来自叙利亚极端组织的被标记内容，这些内容可能违反了 Facebook 的服务条款。

尽管如此，人类的判断能力对于理解上下文的理解才是最重要的。为了判断一条评论是否带有仇恨或欺凌，Facebook 依靠真人。在 Facebook Live 的具体案例中，有一个团队专门负责监控直播视频的报告；该小组会自动监控任何达到某个未说明的受欢迎程度阈值的直播视频。

Facebook 正在让 AI 发挥更积极的作用。今年 3 月，Facebook 推出了一款自杀预防 AI 工具，可以识别看似有自杀倾向的帖子。BuzzFeed 报道称，该 AI 可以扫描帖子和评论，查找与之前帖子的相似之处，并采取行动。在极少数情况下，它会直接提醒版主，但更多时候它会向用户显示自杀预防工具，例如求助热线的号码。此外，AI 还会向用户的朋友更显眼地显示一个用于报告自残行为的按钮，从而增加他们向 Facebook 的人工版主举报视频的可能性。（该公司拒绝就此事发表评论。）

人类审核的直接替代方案可能是先发制人的审查。

“我们想要一个更加严格的 Facebook 吗？”耶鲁大学信息社会项目常驻研究员凯特·克洛尼克 (Kate Klonick) 说道。“当你建立一个过于严格的系统时，人们很有可能没有接受正确的培训，从而出现更多的误报和更多的审查。”

Klonick 的研究重点是 Facebook 和其他平台作为管理在线言论的系统。Klonick 认为，Facebook 必须积极选择如何管理发布的内容和发布的内容，并且没有算法魔法可以将其从言论问题转变为简单的技术挑战。

“我们还需要很多年才能拥有能够解决这些复杂决策问题的人工智能，”Klonick 说道。“这不仅仅是照片识别，而是照片识别、决策和分类——这些都是困难的认知问题，我们还远不能可靠地解决这些问题。”

照片识别挑战在计算机编程中如此具有标志性，以至于它本身就成为了一个寓言。1966 年，麻省理工学院的西摩·帕普特 (Seymour Papert) 提出了一个他认为会是一个简单的夏季项目：训练计算机识别物体。训练计算机识别物体并非一个夏天就能完成的任务，而是一项艰巨的任务，直到今天，谷歌和 Facebook 等公司仍在投入大量资金和时间来研究解决方案。

克洛尼克说：“在可预见的未来，这不是一个人工智能问题，也不是人工智能解决方案。”