人类很难“杀死”机器人，尤其是当它们乞求饶命的时候

在最近发表在《PLOS ONE》杂志上的一篇论文中，德国研究人员要求 89 名大学生与一个名叫 Nao 的微型、眼睛明亮的机器人组队回答问题并完成琐碎的任务。这是一部值得拍成兄弟喜剧的机器人伙伴关系。但是，正如实验心理学中常见的情况一样，这些任务分散了人们对正在研究的真正问题的注意力：当人类不得不关闭机器人时会发生什么？

Verge本月早些时候报道称，在 43 个案例中，“机器人抗议，告诉参与者它怕黑，甚至乞求：‘不！请不要关掉我！’”正如研究人员所预测的那样，参与者很难关掉这台他们之前曾作为搭档合作过的机器。与机器人什么也不说的那组相比，30 名人类平均花了两倍的时间关掉机器人。13 人完全拒绝服从，让 Nao 继续运行。

“人们认为机器人在某种程度上是活的，”人机交互领域的顶尖研究员克里斯托夫·巴特内克 (Christoph Bartneck) 在一封电子邮件中写道。这种将电影和机器人视为人类的现象被称为“媒体方程式”。这可能会引发一些严重的道德困境。

2007 年，巴特内克进行了一项类似的实验，实验中，一个会说话的猫形机器人乞求饶命，但所有参与者都被观察科学家强迫关掉机器。在那项研究中，100% 的人最终都服从了，但这并不容易。巴特内克说，把机器人当成真正活着的人来对待，意味着我们“因此犹豫是否要关掉它，尤其是如果这意味着机器人会失去记忆或个性的话。”

50 多年来，理解人类感知和人类行为的可塑性一直是实验心理学家及其同行关注的重点，而其方法也一直令人不安。

20 世纪 60 年代，耶鲁大学的一位心理学家设计了一种方法，以测试那个时代最紧迫的存在问题：服从权威是否足以说服表面上善良的人做出通常被认为是邪恶的行为？

研究人员斯坦利·米尔格拉姆邀请研究参与者进入实验室，让他们扮演老师的角色，并要求他们以研究学习和记忆为幌子，对“学生”施加越来越大的电击。随着电击的加剧，学生——秘密成为研究团队的一员，不会受到任何实际伤害——乞求被释放，并表现出痛苦和痛苦的迹象。一些参与者拒绝继续。但大约 65% 的人还是施加了最强的电压。

米尔格拉姆在 1963 年的原始研究中写道，自提出以来，这一程序就备受争议，“它造成了极度的神经紧张。大量出汗、颤抖和结巴是这种情绪紊乱的典型表现。紧张的一个意想不到的迹象——尚未得到解释——是经常出现紧张的笑声。”无论他们是提前退出，还是坚持到终点线，参与者都被激怒了。

尽管我们倾向于像对待人类一样对待机器人，并且会体验到与米尔格拉姆几十年前观察到的类似的痛苦迹象，但研究人员已经发现了一些复杂的因素。我们是否关闭一个恳求的机器人的决定可能受到机器人的价格或质量、它的社交性（相对于它的实用性）——最近德国研究操纵的一个因素——甚至机器的颜色（可能被视为种族或民族）的影响，这些都塑造了我们与这些我们创造的机器的互动。正如PLOS ONE论文的作者简洁地指出的那样，“当人们与不同的媒体互动时，他们经常表现得好像他们在与另一个人互动，并无意识地应用各种社会规则。”

这些反应可能看起来愚蠢或无关紧要。但人工智能研究人员担心我们对这些机器人的顺从会带来后果，尤其是当它们进入我们的家庭甚至公共生活时。“今天的机器人没有任何智力，因此没有必要让它们保持开启状态。今天的机器人不在乎，”巴特内克写道。“我们需要尊重我们的创造，但我们也需要避免被科幻小说愚弄。”他说，亚马逊 Echo 不是《西部世界》 。Nao 也不是《银翼杀手》。

归根结底，我们在电击人类同胞时感到的内疚是好的。但谈到机器人，巴特内克说，你可以随意关闭它。