新报告称，ChatGPT 的人工智能内容过滤器破坏了员工的心理健康

内容审核是一项臭名昭著的肮脏工作，而围绕它蓬勃发展的劳动力外包行业经常面临严厉的审查，因为其将人类工人置于互联网最黑暗角落的做法是否合乎道德。周三， 《时代》杂志发表了一篇深入调查文章，深入研究了 Sama 公司，该公司最近为 OpenAI 提供了专门负责阅读互联网上一些最糟糕内容的劳动力。

尽管该项目的总体目标是为热门的 ChatGPT 程序开发有用且必要的内部 AI 过滤器，但根据新报告，Sama 的前员工表示，他们现在患有创伤后应激障碍，因为他们在任职期间要筛选数千篇描述性侵犯、乱伦、兽交、虐待儿童、酷刑和谋杀的恐怖在线文本摘录。更不用说，报告指出，这些员工大多在肯尼亚工作，每小时的工资不到 2 美元。

[相关：流行的青少年心理健康服务在尝试人工智能聊天机器人建议后面临强烈反对。]

OpenAI 的 ChatGPT 迅速成为去年最受关注的技术突破之一，因为它能够几乎即时地根据几乎任何人类提示生成创意文本。虽然类似的程序已经存在，但它们经常倾向于散布仇恨和彻头彻尾的辱骂性内容，因为它们无法在用作生成参考点的大量互联网写作中内部识别有毒材料。

ChatGPT 的用户已经超过 100 万，基本上没有出现此类问题（尽管还有许多其他担忧），这主要归功于一个额外的内置人工智能过滤系统，该系统旨在过滤掉互联网上的大部分糟糕内容。但尽管它们很实用，目前的人工智能程序还没有足够的自我意识来自己发现不适当的材料——它们首先需要人类的训练来标记各种上下文关键词和主题。

Sama 是一家总部位于美国的数据标签公司，为硅谷企业在肯尼亚、印度和乌干达雇佣员工，其主页上称其是“人工智能发展的下一个时代”。该公司声称，通过其提供的就业机会，已帮助全球 5 万多人摆脱贫困。然而，根据《时代》杂志通过数百页内部文件、合同和工人工资单进行的研究，数十名工人每小时的净工资在 1.32 美元到 2 美元之间，这笔费用相当于自称的“折磨”。

[相关：OpenAI 的新聊天机器人提供可靠的对话，减少热门话题。]

工人们向《时代》杂志声称，他们的工作时间远远超过了规定的工作时间，每天要筛选 150-250 条令人不安的文本段落，并标记这些内容以供 ChatGPT 的 AI 过滤训练。尽管有报道称健康顾问服务可用，但 Sama 的员工仍然经历了挥之不去的情感和精神压力，超出了这些服务的能力。在提供给《时代》杂志的一份声明中，Sama 对工作量提出异议，并表示他们的承包商每班只需要审查大约 70 条短信。

“这些公司向我们展示人工智能和自动化，好像它们会取代工人，但事实并非如此，”科技文化评论家、 《通往无路：硅谷在交通运输方面犯了什么错误》一书的作者巴黎·马克斯向 PopSci 解释道。“……这又是 Facebook 内容审核员的故事——其中一些也是 Sama 在肯尼亚雇用的。”

马克斯认为，避免此类精神和身体剥削的唯一方法是对科技行业进行大规模的文化改造，而目前看来，这不太可能。“这是这些公司选择的人工智能发展模式，”他们写道，“[而]改变它需要彻底颠覆他们所做之事的目标和基本假设。”

Sama 最初与 OpenAI 签订了价值 20 万美元的内容审核合同，但据报道，Sama 早早断绝了合作关系，转而专注于“计算机视觉数据注释解决方案”。OpenAI 目前正在与投资者谈判，以 290 亿美元的估值筹集资金，其中 100 亿美元可能来自微软。路透社此前报道称，OpenAI 预计今年的收入为 2 亿美元，到 2024 年将超过 10 亿美元。正如最新的曝光再次揭示的那样，这些利润往往是以日常劳动者的巨大幕后成本为代价的。