流行的青少年心理健康服务在尝试人工智能聊天机器人建议后遭遇强烈反对

一家为在线社区提供点对点聊天支持网络的免费心理健康服务公司正面临审查，原因是其联合创始人透露，该公司曾短暂尝试使用人工智能聊天机器人来生成回复，但并未告知接受者。尽管他们后来试图淡化该项目并强调该计划的缺陷，但批评者和用户都对医疗伦理、隐私以及人工智能聊天机器人软件的热闹和争议深表担忧。

正如《新科学家》周二所报道的，Koko 大约七年前由麻省理工学院毕业生 Rob Morris 共同创立，其官方网站称该服务是一种让在线心理健康支持“人人可用”的新方法。其主要服务之一是允许社交网络平台等客户安装关键字标记软件，然后可以将用户连接到心理学资源，包括人类聊天门户。Koko 被吹捧为对社交媒体的年轻用户特别有用。

[相关：OpenAI 的新聊天机器人提供可靠的对话，减少热门话题。]

然而，上周五，莫里斯在推特上表示，大约 4,000 名用户“通过 GPT-3 获得了心理健康支持”，这是 OpenAI 开发的流行 AI 聊天机器人程序。虽然用户并没有直接与 GPT-3 聊天，但设计了一个“副驾驶”系统，以便人类支持人员审查 AI 建议的回复，并根据他们认为相关的情况使用它们。正如《新科学家》杂志所指出的那样，Koko 用户似乎没有收到任何形式的预先警告，让他们知道他们的心理健康支持可能至少部分是由聊天机器人提供的。

莫里斯在推特上解释道，虽然观众对人工智能共同撰写的回复的评价“明显高于”人类的回答，但他们还是决定迅速撤下该程序，并表示，一旦人们意识到这些信息的来源是人工智能，“它就不起作用了”。

莫里斯写道：“模拟的共情让人感觉怪怪的，空洞的。”不过，他对人工智能在心理健康领域的潜在作用表示乐观，并引用了 Woebot 等之前的项目，该项目从一开始就提醒用户他们将与聊天机器人交谈。

[相关：西雅图学校因学生心理健康状况恶化起诉社交媒体公司。]

莫里斯对 Koko 实验的描述随后引发了网上的强烈反应，导致莫里斯多次澄清有关该实验的“误解”。他上周六写道：“我们不会未经他们同意就将人们配对与 GPT-3 聊天。（回想起来，我本可以把我的第一条推文措辞得更清楚一点）”，并补充说，该功能在可用时是“可选的”。

“很明显，人工智能内容创作不会消失，但现在它发展得太快了，人们还没有认真思考如何最好地使用它，”数字权利倡导组织 Fight for the Future 的活动总监 Caitlin Seeley在一封电子邮件中写道。“透明度必须是人工智能使用的一部分——人们应该知道他们所阅读或查看的内容是由人类还是计算机创建的，我们应该对人工智能程序的训练方式有更多的了解。”

[相关：苹果推出 AI 有声读物叙述者，但文学界并不太高兴。]

Seeley 补充说，像 Koko 这样的服务需要“深思熟虑”地考虑他们声称提供的服务，并对人工智能在这些服务中的作用保持批判性。“关于如何以合乎道德的方式使用人工智能仍存在很多问题，但任何考虑使用人工智能的公司在开始使用人工智能之前都必须问这些问题。”

莫里斯似乎听到了批评的声音，尽管目前尚不清楚该公司下一步将做什么以及未来对聊天人工智能的计划。莫里斯上周末在 Koko 的博客上写道：“我们共同的利益是确保人工智能的任何用途都得到谨慎处理，并深切关注隐私、透明度和风险缓解。”他还补充说，该公司的临床咨询委员会正在开会讨论未来实验的指导方针，“特别是关于 IRB 批准。”