机器人很强大：机器人能力的科幻神话

这是关于机器人主要神话以及科幻小说在创造和传播这些神话方面所起的作用的系列文章中的第一篇。其他主题：机器人很聪明，人工智能必然出现的神话，机器人很邪恶，杀手机器的神话。

上周，我在网上引起了小小的骚动，提出了一个不那么简单的问题——机器人汽车是否应该牺牲其主人的生命，以拯救两个陌生人？

这从来都不是一个反问句。在与加州州立理工大学的机器人伦理学家帕特里克·林 (Patrick Lin) 交谈后 (他最初在《连线》杂志的一篇专栏文章中提出了道德汽车这个话题)，以及与布鲁克林法学院的一位法学教授和副院长讨论了法律后果后，我确信：为了我们人类的利益，答案是令人畏缩的，但全心全意肯定的。如果一辆自动驾驶汽车必须在撞向少数人与拯救多数人之间做出选择，那么这些道德决定应该提前制定出来，并融入到它的算法中。对我来说，所有其他选择都会导致混乱的诉讼，或可怕的机器辅助大逃杀，因为每个人的机器人——无论是汽车机器人还是其他机器人——都把主人的安全放在第一位，并在开放的道路上进行自然选择。

对于这样一个复杂的思想实验，人们对这个故事的反应各异。但还是出现了一些趋势。

首先，评论区里经常会有机器人恐惧症患者，他们可能读过我的标题，也可能没有读过Gizmodo和Slate上回复文章的摘要。Facebook 上目前为止最受欢迎的评论是：“足以证明永远不要制造机器人或自动驾驶汽车。伦理和道德决定应该由人类来做，而不是他们的创造物。”同样，人们也谈到了天网，因为《终结者》中的人物和电影中虚构的机器人杀手一样杀不死，尽管同样毫无幽默感，而且完全不是基于现实生活中发生的事情。

但更有趣的回应是驳斥，分为两种：建议所有机器人汽车都应该遵循传奇科幻作家艾萨克·阿西莫夫的机器人第一定律（即机器人不得伤害人类，无论是行动还是不行动）；或者预测机器人汽车将如此可靠，致命碰撞将成为过去。“我不认为这会成为问题，”Reddit 用户 iamnotmagritte 写道。“汽车可能会相互通信，完全避免这种情况，如果这还不够，还会让彼此知道要采取哪些路径来避免碰撞。”在与相关Slate文章的作者 Tyler Lopez 的 Twitter 讨论中，Lopez 提出了一些关于当前自动驾驶汽车在技术和法律上无法解决任何“我杀谁？”电车问题的观点，Lopez 也同意这种观点。他提出，随着车辆和道路基础设施联网，“与道德算法相关的危险将由网络算法解决。”

换句话说，只需告诉机器人不要杀死任何人，更不用说两个人，它们就会以机器的精度执行该任务。

这真让人心痛。对我来说，这证明了我多年来一直怀疑的事情，但一直无法表达，或者至少无法提及，否则会显得更加不可忍受的势利。但事实是：人类总体上不了解机器人是如何工作的。

这不应该是一个巨大的惊喜。机器人技术是一个极其复杂的研究领域，只有极小一部分人类正在接受培训或受雇成为机器人专家。但你可以说物理学也是如此，但普通人却觉得自己没有资格随意权衡引力透镜的机制，或者随着我们做出的每一个决定而分支出平行宇宙的可怕可行性。

那么，机器人有哪些特点让人们认为它们能够理解自己呢？

这也不是反问句。答案是艾萨克·阿西莫夫。或者更广泛地说，是科幻小说。科幻作家在机器人被制造出来之前就发明了机器人。即使自动化机器已经成为现代生活不可或缺的一部分，机器人科幻小说仍在不断涌现。而且，总的来说，它一直在撒谎。我们认为我们知道机器人是如何工作的，因为我们听过关于不存在的机器人的篝火故事。

我将在以后的文章中探讨机器人技术的其他主要误区，但让我们从与机器人汽车最相关的误区开始，以及为我们中间运行的任何自动机器制定道德框架的必要性。

让我们来谈论一下机器人能力的神话。

* * *

“相信我，”毕晓普说完，刀子就开始移动了。在这部充满了著名场景的电影中，这是最著名的场景之一，机器人（由兰斯·亨利克森饰演）用他张开的手指和被他按住的星际战士的手指刺向桌子。他刺向其他缝隙，速度越来越快，直到刀刃变得模糊，断断续续地在桌子上划来划去。当他完成后，我们看到毕晓普身上有轻微的划痕。但可怜的星际战士安然无恙。精湛的表演只是作为人造人的附带好处。

《异形》就是这样介绍它的驻地机器人及其超人般的能力的。除了拥有不可思议的刀法和手眼协调能力外，毕晓普还勇敢无畏，对幽闭恐惧症具有超人般的免疫力，能够熟练地驾驶战斗飞船（这并不是医务人员的标准训练），而且几乎不会因为身体被撕成两半而感到惊慌。真的，没有理由让人类去进行那场注定失败的虫子狩猎。一群武装合成人——被批准可以造成伤害，而毕晓普却没有——可以轻而易举地从 LV-426 上溜走，他们的白人血迹连一滴都不会溅出来。

那么，为什么《毕晓普》会成为如此杰出的典范呢？这并不是因为外星人窥视了我们的未来，并预知了现代机器人专家尚未发现的机器人效率的秘密。而是因为，像大多数科幻片一样，这部电影是一部冒险小说。而当一个故事的主要目标是惊险刺激时，其中的机器人也必须令人惊险刺激。

《异形》只不过是延续了文学作品中第一个非官方机器人——科学怪人——的传统。这个怪物是一个组装起来的生物，其超人的身体和精神天赋并不基于原材料的质量——他不是由奥运会运动员和诺贝尔奖得主拼凑起来的。这个怪物的完美之处就像毕晓普的完美之处一样，也无法解释，无数其他虚构的机器人也是如此，从《星际迷航》中的数据到《机器之心》中的多利安。当然，你可以猜到原因。人类是各种基因特征的随机混合体，有些很有价值，有些则适应不良，而机器人则经过了精心的优化。机器不会疲倦，也不会失去勇气。尽管它们的程序可能会被破坏，或者突然萌生不便的生存本能，但它们完成任务的能力是可以保证的。机器人就像它们的祖先瑞士钟表一样万无一失。

机器人能力的神话是基于直觉的。而这种直觉在很大程度上已被现实生活中的机器人证明是完全错误的。

真正的机器人是价值和能力极其有限的设备。它们能胜任一两件事，其他事情做得很糟糕，或者根本做不出来。自动装配机器人可以在人类工作人员所需时间的一小部分内对车辆进行喷漆或点焊，而且不会带来任何健康问题。这就是它们的刀法。但如果让它们安装内饰，它们很可能会把车砸成碎片。

目前，机器人汽车也拥有类似专家级的专业技能。正如《大西洋月刊》最近报道的那样，谷歌的无人驾驶汽车需要详细的激光雷达地图（即用激光扫描给定道路轮廓创建的 3D 模型）才能运行。自动驾驶汽车必须做一些令人印象深刻的事情，比如检测周围车辆的距离，以及确定交叉路口的通行权。但它们被算法锁定在激光道路上。它们保持规定的路线，跟随传感器生成的面包屑轨迹。与人类必须应对的相比，这些机器人是最受保护的永久学生司机。没有人通过让行人或醉酒司机冲到它们的路上，或让它们绕道行驶在未绘制地图、积雪覆盖的乡间小路上来考验它们。它们避免致命碰撞的能力仍未经测试。

当然，它们会越来越好。传感器会得到改进和增加，控制算法会变得更加强大，也许机器人会开始相互交流，警告彼此即将发生的危险。但是，从减少碰撞的世界跃升到完全无碰撞的世界只是一个假设，并没有得到机器人和一般机械设备的严酷现实的有力支持。机器会损坏。软件会出问题。汽车环境是整个工程领域中最严酷和最具挑战性的环境之一，要求零部件能够承受温度的剧烈波动、险恶的道路条件以及复杂互锁系统中其他零部件的意外故障。只有一种假设，即机器人总是知道轮胎即将爆胎，或者能够将紧急情况广播给附近的所有汽车，每辆车都会像好莱坞特技车手一样，以神奇的瞬间表演做出反应。为此，你不能是机器人专家，或电脑莫名其妙崩溃的人，或 WiFi 曾经断线的人，或流媒体视频暂时卡顿的人。要相信机器人能力（或超级能力）的神话，你必须相信机器人是完美的，因为科幻小说是这么说的。

* * *

当任何人引用艾萨克·阿西莫夫的《机器人三定律》时，这其实是在无意识地寻求帮助。这意味着他或她将机器人视为现代童话，是谷歌制造的犹太神话中故障多多的古老傀儡的继承者。

但阿西莫夫定律并非为解决未来与生死攸关的机器人相关的难题而设计的。它们是一种叙事手段，其简洁、过于简单的指令允许漏洞、矛盾和逻辑漏洞，从而产生引人入胜的故事。如果你引用了其中任何一条定律，你就陷入了双重陷阱，采用了与阿西莫夫机器人的制造者和部署者（他们应该做错了）同样危险的狭隘推理。更糟糕的是，你依赖幻想来指导你对现实的思考。即使可以简单地命令所有机器人永远不伤害任何人，除非它们突然能够征服物理定律，或者消除所有变化中的蓝屏死机，否则大型自动化机器将滚动、跌倒或撞到人。这种情况可能很少见，但对于一些可怜的人来说，这将是不可避免的。此外，军方仍然是机器人研发资金的最大提供者，它可能会对于将第一定律应用于所有此类机器发表看法。

这并不是说 SF 会误导我们对机器人技术的看法，或者应该被忽略。我曾与许多机器人专家和人工智能研究人员交谈过，他们受到超级能干的怪物的启发，从2001年的 HAL 9000 到终结者的 T-800。机器人力量的梦想令人陶醉。这些科学家创建的系统通常只是人类能力的苍白影子，这只是机器人技术的一个事实。毕竟，在几乎所有情况下，自动化的目的不是创造超人的能力。它是为了将人排除在外，以节省金钱，或挽救他们的生命，或为他们节省做一些无聊事情的时间和麻烦。捕食者无人机并不比有人驾驶的 F-16 战斗机更好，因为它是机器人。事实上，它根本不是更好的飞机。无人机毫无例外地是天空中最不令人印象深刻的军用车辆。但它们体积小，购买和部署比真正的空中杀人机器更便宜。如果你的任务是暗杀地面目标，而防空技术只能用来寻找掩护，那么这些技术“足够好”。但如果与传统的攻击机或旨在击落入侵飞机的系统对抗，武装无人机只会变成一片狼藉。

在非常具体、非常有限的应用中，机器人很强大。但在大多数情况下，它们很弱。它们是成本效益高的替代品。或者它们是极其不起眼的设备，比如 DARPA 机器人挑战赛中笨拙、笨手笨脚的人形机器人，它们因逐步完成任何健全人都可以在极短时间内完成的任务（驾驶车辆、走过瓦砾、使用电动工具）而受到赞誉。记者们经常参与这种神话的构建。他们夸大自动化能力，将机器人处理任务的决策浪漫化，或者把每一次关于外骨骼和残疾人高级假肢的讨论都变成对未来钢铁侠般能力的美好预言。记者们应该破除科幻小说中关于机器人技术的错误先入之见，但他们却引用了这些勇敢的故事，并强化了科幻小说一直以来都是正确的感觉。无论是在虚构的场景中，还是在媒体报道的扭曲场景中，机器人都是强大的，因为任何不如机器人强大的东西都会让人扫兴。

这让我成为了那个认真地嘲笑所有人的机器人派对的人。不过，我认为还有另一种选择。机器人可以令人印象深刻，但不能被夸大。机械肢体可以是一个了不起的成就，因为它恢复了截肢者的独立性，而不是因为Almost Human想象仿生腿可以很好地将人踢到房间的另一边。人们可能会喜欢科幻小说的思想实验和模糊的预测，同时认识到严格准确并不符合科幻小说的最佳利益。机器人往往不会蹒跚地走进关于大学教授及其绝望事务的沉闷文学作品中。虚构的机器是我们本性中更好、更高级的天使，用不可思议的智力和体力保护它们的制造者。更常见的是，它们以完美无缺的单方面政变反抗它们的主人，这种政变大致和僵尸爆发一样可行（并且不可能从流行文化中消除）。机器人是完美的，因为那是最有趣的机器人版本。

这是一种愚蠢的想法或谈论真实机器人的方式，它们注定会出故障，无法正常工作。自动化正在以一种既令人不安又令人兴奋的方式改变着我们的社会。有了机器人，暗杀（在某些地方）会变得更容易。有朝一日，机器人可以减少碰撞。机器自主性将消灭整个职业，并创造或增强其他职业。机器人才刚刚开始重新配置人类的生活。所以，暂时不要谈论科幻小说中的人造英雄和恶棍，以及填补技术理解空白的简单、不切实际的幻想。有太多实际的、容易出错的机器人可以谈论。而在我们短暂、粗暴、肉体化的生活中，只有这么多时间来讨论我们要用它们做什么。