人工智能审核员无法跟上疫苗虚假信息的最新语言：表情符号

暗语并非新鲜事物，但它在社交媒体上的使用规模几乎是史无前例的。观察人士经常将网络内容审核比作打地鼠游戏，在游戏中，平台几乎无法阻止有针对性的虚假信息、阴谋论、宣传图像和仇恨言论的涌入。

彭博社上周的一份报告详细指出，反疫苗者尤其越来越依赖暗语，他们经常使用表情符号在 Facebook 等社交媒体平台上传播被禁止的错误信息和宣传。此外，一位负责监督公共政策的前 Facebook 高管表示，目前的人工智能审核程序显然无法应对挑战，而且有理由相信它们可能永远无法应对挑战。

“坦率地说，这些平台继续构建的所有这些系统都还处于起步阶段，无法实现它们希望实现的一些功能，”技术政策战略集团 Anchor Change 的首席执行官、大西洋理事会数字取证研究实验室的非常驻高级研究员凯蒂哈巴斯 (Katie Harbath) 告诉PopSci ，她曾担任 Facebook 公共政策主管十年。

[相关：错误信息干预的复杂领域。]

彭博社指出，反疫苗者在以“突然死亡”等模糊名称命名的群组和页面内会面和交谈，继续使用“吃蛋糕”等短语来指代接种疫苗，散布明显虚假的 COVID-19 错误信息。“有时，用户声称亲人已经接种了四五片辉瑞或 Moderna 疫苗，并使用披萨、纸杯蛋糕和各种水果的表情符号来表达他们的观点，”报告补充道。

上下文是标记和删除违禁内容的关键，而表情符号代码语言的引入使得人工智能监控程序的工作变得更加复杂。人工智能内容审核利用机器学习算法来识别、标记并在必要时删除被识别为有问题的内容——通常是色情或暴力图片和文字，但代码语言和表情符号仍然是它们的致命弱点。“机器仍然会错过一些重要的细微差别，比如错误信息、偏见或仇恨言论。因此，在互联网上实现 100% 清晰、安全和用户友好的内容似乎几乎是不可能的，”数据注释服务 Label Your Data 的一份概述解释道。

哈巴斯表示，处理表情符号和编码语言的挑战是双重的，对人工智能系统和人类监督者来说都是如此。“首先，你必须重新培训你的版主，让他们能够尝试理解上下文，并弄清楚他们是否试图使用这个表情符号，”她说。“这可能很有挑战性，取决于内容版主能获得多少[上下文和材料]。”哈巴斯说，这些版主通常一次只能看到一个帖子或一条消息，这使他们无法获得可能对执法决策至关重要的上下文。

[相关：你可以自我预防错误信息。]

试图超越这些群体也带来了挑战。哈巴斯解释说，更新或扩大版主系统的分类器和命名法也会导致更高的误报率，带来新的麻烦和复杂性，同时弊大于利。“大多数人使用表情符号的方式相对温和，”她说，“……这是一场所有平台都必须应对的持续斗争。”

当被联系到 Facebook 的母公司 Meta 就此事发表评论时，该公司选择引用其在这一领域的成功经验。Facebook 的政策沟通经理 Aaron Simpson 通过电子邮件写道：“试图逃避检测或执法表明我们正在有效执行针对 COVID 错误信息的政策。”Simpson 还指出，自疫情爆发以来，Facebook 已删除了“超过 2700 万条内容”，原因是这些内容违反了 Facebook 和 Instagram 上有关 COVID-19 错误信息的政策。截至今年，仅 Facebook 平台上就有大约 2.41 亿美国人在使用。

尽管存在诸多问题，但仍有一线希望。人工智能程序的效率不断提高，而且鉴于其本质，编码语言通常仅由已经“知情”的人使用，因此不一定是招募工作或传播宣传的关键。这可能是一个小小的安慰，但像哈瓦斯这样的人对替代方案持谨慎态度，他们呼吁开展更多的数字素养计划，而不是采取彻底禁止表情符号等策略。

“你可以全面禁止这些东西，但那样他们就会又开始使用暗语，”哈瓦斯说。“你几乎可以得出‘干脆关掉互联网’这样的结论。”