流行的青少年心理健康服务在尝试人工智能聊天机器人建议后遭遇强烈反对

流行的青少年心理健康服务在尝试人工智能聊天机器人建议后遭遇强烈反对

一家为在线社区提供点对点聊天支持网络的免费心理健康服务公司正面临审查,原因是其联合创始人透露,该公司曾短暂尝试使用人工智能聊天机器人来生成回复,但并未告知接受者。尽管他们后来试图淡化该项目并强调该计划的缺陷,但批评者和用户都对医疗伦理、隐私以及人工智能聊天机器人软件的热闹和争议深表担忧。

正如《新科学家》周二所报道的,Koko 大约七年前由麻省理工学院毕业生 Rob Morris 共同创立,其官方网站称该服务是一种让在线心理健康支持“人人可用”的新方法。其主要服务之一是允许社交网络平台等客户安装关键字标记软件,然后可以将用户连接到心理学资源,包括人类聊天门户。Koko 被吹捧为对社交媒体的年轻用户特别有用。

[相关:OpenAI 的新聊天机器人提供可靠的对话,减少热门话题。]

然而,上周五,莫里斯在推特上表示,大约 4,000 名用户“通过 GPT-3 获得了心理健康支持”,这是 OpenAI 开发的流行 AI 聊天机器人程序。虽然用户并没有直接与 GPT-3 聊天,但设计了一个“副驾驶”系统,以便人类支持人员审查 AI 建议的回复,并根据他们认为相关的情况使用它们。正如《新科学家》杂志所指出的那样,Koko 用户似乎没有收到任何形式的预先警告,让他们知道他们的心理健康支持可能至少部分是由聊天机器人提供的。

莫里斯在推特上解释道,虽然观众对人工智能共同撰写的回复的评价“明显高于”人类的回答,但他们还是决定迅速撤下该程序,并表示,一旦人们意识到这些信息的来源是人工智能,“它就不起作用了”。

莫里斯写道:“模拟的共情让人感觉怪怪的,空洞的。”不过,他对人工智能在心理健康领域的潜在作用表示乐观,并引用了 Woebot 等之前的项目,该项目从一开始就提醒用户他们将与聊天机器人交谈。

[相关:西雅图学校因学生心理健康状况恶化起诉社交媒体公司。]

莫里斯对 Koko 实验的描述随后引发了网上的强烈反应,导致莫里斯多次澄清有关该实验的“误解”。他上周六写道:“我们不会未经他们同意就将人们配对与 GPT-3 聊天。(回想起来,我本可以把我的第一条推文措辞得更清楚一点)”,并补充说,该功能在可用时是“可选的”。

“很明显,人工智能内容创作不会消失,但现在它发展得太快了,人们还没有认真思考如何最好地使用它,”数字权利倡导组织 Fight for the Future 的活动总监 Caitlin Seeley在一封电子邮件中写道。“透明度必须是人工智能使用的一部分——人们应该知道他们所阅读或查看的内容是由人类还是计算机创建的,我们应该对人工智能程序的训练方式有更多的了解。”

[相关:苹果推出 AI 有声读物叙述者,但文学界并不太高兴。]

Seeley 补充说,像 Koko 这样的服务需要“深思熟虑”地考虑他们声称提供的服务,并对人工智能在这些服务中的作用保持批判性。“关于如何以合乎道德的方式使用人工智能仍存在很多问题,但任何考虑使用人工智能的公司在开始使用人工智能之前都必须问这些问题。”

莫里斯似乎听到了批评的声音,尽管目前尚不清楚该公司下一步将做什么以及未来对聊天人工智能的计划。莫里斯上周末在 Koko 的博客上写道:“我们共同的利益是确保人工智能的任何用途都得到谨慎处理,并深切关注隐私、透明度和风险缓解。”他还补充说,该公司的临床咨询委员会正在开会讨论未来实验的指导方针,“特别是关于 IRB 批准。”

<<:  Instagram 的新更新有望让该平台变得更好

>>:  互联网上最受欢迎的生成式人工智能指南

推荐阅读

《千剑客OVA》的魅力与评价:粉丝必看的特别版

《千剑客 OVA》-祝千剑客们生日快乐! ■ 公共媒体卵子■ 原创媒体游戏■ 发布日期2019 年 ...

弹性充电中心

史蒂文斯学院的许多学生都直接受到飓风桑迪造成的破坏,或亲眼目睹沿海社区遭到破坏。许多学生还挺身而出提...

雄性黄蜂利用生殖刺螫青蛙(和人)

有时科学会咬人,甚至会蜇人。日本神户大学的研究员 Misaki Tsujii 在研究泥蜂 ( Ant...

婉娘的故事:全面评价大家歌曲的感动与治愈

狗和猫的故事-大家歌曲的魅力和情感《狗和猫的故事》是一部两分钟的短篇动画电影,于2002年12月在N...

《王者荣耀》第三季的魅力与评价:推荐点详解

Ojarumaru 第三季 - 童话世界和月光镇的迷人故事《鬼吹灯丸第三季》是2000年4月3日至2...

『帝光企鹅』的魅力与评价:绝对不能错过的动漫体验

《帝光企鹅》:讲述企鹅站起来反抗黑人公司不公正待遇的故事■作品概要《帝光企鹅》是一部电视动画系列,于...

煤炭排放中的金丝雀:气候变化为何让鸟类改变其鸣叫方式

电线上的鸟。Pixabay麦克·麦格兰的耳朵很好。他只需听鸟儿唱歌就能辨别出它。他还可以从鸟儿的歌声...

《ReLIFE:最终章》观感与评论:青春的新情感与教训

ReLIFE 最终章 - ReLIFE 完结篇 - 综合评价与推荐概述《ReLIFE 最终章》是根据...

自制钢铁侠手套发射激光

帕特里克·普里贝不是钢铁侠,但他已经很接近了。在本周早些时候上传到 YouTube 的一段视频中,普...

击出本垒打的终极指南

如果说有一项运动能让人完全着迷,那就是棒球。多年来,全美各地的极客们一直在研究是什么让某些球员或球队...

《细菌进阶》的魅力与评价:不容错过的动漫体验

细菌进阶 - 动漫不为人知的历史及其魅力日本动画始于20世纪30年代,自诞生以来就诞生了大量的作品。...

这些生物有一个天然的基因编辑系统,可能比 CRISPR 更有用

一组研究人员发现了一种新的生物编辑系统,其精确度甚至可能超过 CRISPR 基因编辑。该系统基于一种...

夜空摄影非常适合保持社交距离。以下是拍摄精彩照片的方法。

2020 年 5 月 14 日更新:在 COVID-19 疫情期间,数百万人待在家中,而我们正经历...

想要获得更多 Twitter 粉丝,请尝试获取更多信息,减少负面信息

急于增加 Twitter 粉丝数?与其进行虚假账户黑客攻击或效仿米特·罗姆尼购买粉丝,不如像我们一直...

这款特价简约灯饰为您的空间带来春天的清新感觉

随着春天的到来,你可能已经开始对家里进行大规模的清理。这个季节是清理一年来积累的所有垃圾并给你的空间...