一家为在线社区提供点对点聊天支持网络的免费心理健康服务公司正面临审查,原因是其联合创始人透露,该公司曾短暂尝试使用人工智能聊天机器人来生成回复,但并未告知接受者。尽管他们后来试图淡化该项目并强调该计划的缺陷,但批评者和用户都对医疗伦理、隐私以及人工智能聊天机器人软件的热闹和争议深表担忧。 正如《新科学家》周二所报道的,Koko 大约七年前由麻省理工学院毕业生 Rob Morris 共同创立,其官方网站称该服务是一种让在线心理健康支持“人人可用”的新方法。其主要服务之一是允许社交网络平台等客户安装关键字标记软件,然后可以将用户连接到心理学资源,包括人类聊天门户。Koko 被吹捧为对社交媒体的年轻用户特别有用。 [相关:OpenAI 的新聊天机器人提供可靠的对话,减少热门话题。] 然而,上周五,莫里斯在推特上表示,大约 4,000 名用户“通过 GPT-3 获得了心理健康支持”,这是 OpenAI 开发的流行 AI 聊天机器人程序。虽然用户并没有直接与 GPT-3 聊天,但设计了一个“副驾驶”系统,以便人类支持人员审查 AI 建议的回复,并根据他们认为相关的情况使用它们。正如《新科学家》杂志所指出的那样,Koko 用户似乎没有收到任何形式的预先警告,让他们知道他们的心理健康支持可能至少部分是由聊天机器人提供的。 莫里斯在推特上解释道,虽然观众对人工智能共同撰写的回复的评价“明显高于”人类的回答,但他们还是决定迅速撤下该程序,并表示,一旦人们意识到这些信息的来源是人工智能,“它就不起作用了”。 莫里斯写道:“模拟的共情让人感觉怪怪的,空洞的。”不过,他对人工智能在心理健康领域的潜在作用表示乐观,并引用了 Woebot 等之前的项目,该项目从一开始就提醒用户他们将与聊天机器人交谈。 [相关:西雅图学校因学生心理健康状况恶化起诉社交媒体公司。] 莫里斯对 Koko 实验的描述随后引发了网上的强烈反应,导致莫里斯多次澄清有关该实验的“误解”。他上周六写道:“我们不会未经他们同意就将人们配对与 GPT-3 聊天。(回想起来,我本可以把我的第一条推文措辞得更清楚一点)”,并补充说,该功能在可用时是“可选的”。 “很明显,人工智能内容创作不会消失,但现在它发展得太快了,人们还没有认真思考如何最好地使用它,”数字权利倡导组织 Fight for the Future 的活动总监 Caitlin Seeley在一封电子邮件中写道。“透明度必须是人工智能使用的一部分——人们应该知道他们所阅读或查看的内容是由人类还是计算机创建的,我们应该对人工智能程序的训练方式有更多的了解。” [相关:苹果推出 AI 有声读物叙述者,但文学界并不太高兴。] Seeley 补充说,像 Koko 这样的服务需要“深思熟虑”地考虑他们声称提供的服务,并对人工智能在这些服务中的作用保持批判性。“关于如何以合乎道德的方式使用人工智能仍存在很多问题,但任何考虑使用人工智能的公司在开始使用人工智能之前都必须问这些问题。” 莫里斯似乎听到了批评的声音,尽管目前尚不清楚该公司下一步将做什么以及未来对聊天人工智能的计划。莫里斯上周末在 Koko 的博客上写道:“我们共同的利益是确保人工智能的任何用途都得到谨慎处理,并深切关注隐私、透明度和风险缓解。”他还补充说,该公司的临床咨询委员会正在开会讨论未来实验的指导方针,“特别是关于 IRB 批准。” |
大都会艺术博物馆 209 号展厅内陈列着一个 18 世纪的木制托盘,即圆形托盘,来自当时墨西哥还是西...
即使健身房重新开放但人数有限,在家或户外锻炼仍然更安全。因此,我们将今年 9 月命名为“肌肉月”,以...
本周你学到的最奇怪的事情是什么?好吧,不管是什么,我们保证如果你听PopSci的热门播客,你会得到一...
幽灵面的完整故事和魅力■ 公共媒体电视动画系列■ 原创媒体动漫原创■ 播出时间1966 年 6 月 ...
看来超能力者的高中生在异世界也能轻松生存啊! - 评论和推荐“超能力者的高中生,似乎能够在异世界轻松...
GOSICK-哥特式-综合评测推荐概述《GOSICK》是改编自樱庭和树同名轻小说的电视动画,于201...
它们又可爱又胖,需要真正的工程技术才能飞上天空。我说的是梅西感恩节大游行中的标志性气球,该游行于周四...
星期一的 Tawawa - Getsuyobi no Tawawa - 评论和详细信息概述《周一Ta...
爆丸装甲联盟:爆丸战斗中的新挑战和来自太空的威胁■作品概要爆丸装甲联盟是一部动画系列,于 2020 ...
《xxxHOLiC 电影:仲夏夜之梦》——仲夏夜之梦与一场神秘拍卖■ 公共媒体剧院■ 原创媒体漫画■...
Rockman OVA——从游戏诞生的动画魅力Rockman 是基于 Capcom 开发的人气游戏系...
几十年前,我父母买了第一辆非通用汽车:一辆 1990 年款本田雅阁。这辆车是手动挡,我妈妈后来把它传...
本文摘自 2017 年最佳新品榜单。如需查看本年度最具变革性的产品和发现的完整列表,请点击此处。 C...
有些大二学生是在俄罗斯开始建造其最新潜艇后出生的。K-329 北德文斯克号(2013 年底更名为 K...
《龙眼里的泪水》——感人的动画短片1981年6月上映的短篇动画电影《龙眼之泪》被誉为押井守导演的早...