谋杀的数学：机器人应该牺牲你的生命来拯救两个人吗？

它发生得很快——比你作为人类能够完全处理的速度还要快。

前轮爆胎，你的自动驾驶 SUV 突然转向。但机器人汽车并没有左转，驶入对面车道，而是向右行驶。刹车启动，系统试图自我纠正，但动量太大。就像一部烂动作片中的老套特技一样，你从悬崖上掉下来，自由落体。

你花了大价钱买的机器人却选择杀死你。它的碰撞响应算法决定，这比与一辆小型非机器人紧凑型汽车高速正面碰撞要好得多。那辆车里有两个人，而你的只有一个人。计算起来再简单不过了。

大致而言，这就是加州州立理工大学副哲学教授兼伦理与新兴科学小组主任帕特里克·林提出的问题。在最近为《连线》杂志撰写的一篇评论文章中，林探讨了机器人伦理中最令人不安的问题之一：如果碰撞不可避免，自动驾驶汽车是否应该选择撞向谁？

这看上去似乎是一个简单的思维实验，是经典“电车难题”的变种。“电车难题”是一个道德难题，它问你是否愿意以牺牲一人在轨道上的生命为代价，拯救一辆失控电车上的五个人的生命。但是，碰撞场景越详细，就越难驾驭。假设机器人拥有超人般的感官和反应速度，这要归功于它的机器反射和一系列先进的传感器。在碰撞前的关键时刻，为了保护主人，机器人应该瞄准一辆小型车而不是大型车吗？还是应该反其道而行之，瞄准 SUV，即使这意味着降低机器人汽车主人的生存几率？如果要在撞上校车和撞上树之间做出选择，机器人会选择屠杀还是背叛？

关键因素还是在于汽车的超人地位。“能力越大，责任越大，”林说。“如果这些机器比我们拥有更大的能力、更高的处理器速度、更好的传感器，这似乎意味着做出更好决策的更大责任。”

应该说，目前的自动驾驶汽车更像是学生驾驶，而不是蜘蛛侠，无法注意到人类驾驶员在十字路口挥手示意，更不用说在碰撞前瞬间应对复杂的预测撞击、死亡人数以及林所说的“道德数学”。但传感器、处理器和软件是机器人技术中罕见的元素，它们往往会迅速发展（而驱动和功率密度则因典型的模拟固执而步履蹒跚）。虽然时间框架尚不清楚，但自动驾驶汽车最终肯定会做到人类做不到的事情，无论是作为单独的传感器设备，还是因为它们正在与其他车辆和连接的基础设施进行通信，并像集体思维一样预测事件。

因此，如果我们假设超能力是机器的天命，那么我们就不得不问一个比它们应该撞向谁更大的问题。如果机器人要成为超人，那么它们的职责难道不是成为超级英雄，并利用这些力量尽可能多地拯救人类吗？

* * *

第二种假设比第一种假设更加血腥，但致命性较低。

一群士兵误入了杀伤区。这是 GPS 指定的区域，在这个区域内，一个自主军用地面机器人被授权攻击任何目标。机器的传感器计算风速、湿度和气压。然后它开始工作。

大部分子弹都干净利落地命中。所有目标都已击中。

但其中只有一人面临直接生命危险——他没有像其他人一样腿部受伤，而是腹部中弹。即使是机器人的瞄准也不是完美的。

机器后撤，并在目标撤离期间保持射击。

没人会说这种机器人是救命稻草。但在两年前向 DARPA 和美国国家科学院作的一次演讲中，林提出了相反的假设情景：杀手机器人的射击精度足以击中几乎所有目标。

林认为，这种系统可能会违反《日内瓦公约》关于限制“造成过分伤害或不必要痛苦的武器”的条款。国际红十字会委员会在后来的提案中制定了更具体的指导方针，呼吁禁止使用“战地死亡率超过 25% 或医院死亡率超过 5%”的武器。换句话说，新系统在超过四分之一的时间内不应该直接杀死目标，或者导致目标在医院死亡的可能性不超过 5%。

“战争中隐含着这样的意思，我们希望给每个人一个公平的机会，”林说。“对方可能并非都是志愿者。他们可能是被征召入伍的。因此，战争法并不授权你杀人，而是授权你让敌方战斗人员无法战斗。”专门射击头部的机器人，或其他一些非常有效但致命性极强的能力——由于超人的力量，死亡是必然的——当然可以被定义为不人道的。

就像自动驾驶汽车碰撞场景一样，一切都取决于技术确定性。从法律或道德角度看，人类士兵或警察不会瞄准目标的腿部。对于普通人来说，无论射程或技能水平如何，准确度都不是万无一失的，更不用说充满肾上腺素的人了。同样，即使是最老练的专业司机，也不可能在高速公路上突然发生碰撞前的瞬间做出完美的操作或道德上“正确”的决定。

但如果有可能将这种级别的精度植入机器，那么人们的期望将不可避免地发生变化。制造造成身体伤害（无论是故意还是意外）的机器人的制造商必须在开发过程中解决一系列电车难题，并为每个难题提供明确的决策。如果武装机器人设计师能够对系统进行编程，使其瘫痪而不是处决目标，那么他们可能会相对轻松。但如果这是明确的选择——机器人应该积极减少人类死亡，即使是在敌人中——你难道不必接受是你的车撞死了你，而不是两个陌生人吗？

* * *

按照这种推理得出合乎逻辑的结论，事情开始变得有点科幻，而且有点令人不安。如果机器人被证明能够拯救人类生命，为了大多数人的利益而牺牲少数人的生命，什么样的怪物会编程让它们做其他事情呢？

然而，没有一个心智正常的人会购买一辆明确警告客户其安全不是首要任务的自动驾驶汽车。

如果机器人汽车制造商走上道德和伦理的正轨，设计出不歧视地限制人员伤亡的汽车，他们最终可能会面临这样的困境。说这样的承认会减缓自动驾驶汽车的普及，这是轻描淡写。“买我们的车吧，”布鲁克林法学院副院长兼法学教授迈克尔·卡希尔开玩笑说，“但要知道，它可能会开下悬崖，而不是撞上一辆载有两个人的汽车。”

好吧，这是卡希尔提出的假设，不是我的。但尽管说服汽车制造商将自己的客户置于危险境地或用法规强迫他们采取行动非常困难，但这可能是唯一能保护他们免受广泛诉讼的选择。因为无论他们选择做什么——杀死这对夫妇、司机或随机选择目标——这些都是事先做出的道德决定。因此，他们可能更容易受到诉讼，卡希尔说，因为受害者及其家人会剖析和起诉那些不是一时冲动做出的决定，“而是在公司办公室里提前做出的”。

由于缺乏内置的、预碰撞道德的通用标准，超人汽车可能会开始像超级恶棍一样，瞄准老年司机而不是年轻的投资银行家——后者的家人可能会起诉要求赔偿更多的工资损失。或者，不那么残忍的是，汽车设计师可以仅根据汽车的品牌和型号来选择目标。“不要朝着雷克萨斯的方向行驶，”卡希尔说。“如果你必须撞到什么东西，你可以让它撞到一辆便宜的车，因为司机更有可能钱少。”

更美好的前景看起来越来越好。事实上，我认为从法律、道德和伦理的角度来看，这是唯一可行的选择。想到你的机器人司机可能不会支持你，它会毫不犹豫地选择把你推下悬崖，这真是令人恐惧。或者更奇怪的是，与联网机器人同伴一起制定计划，将你的车转向一辆飞驰的卡车的路径，以使其远离校车。但是，如果机器人发展出这种程度的生死权力，它们难道不应该负责任地运用它吗？

“从某种角度来看，机器人的美妙之处在于它们与任何人都没有关系。它们可以做出对每个人都更好的决定，”卡希尔说。“但如果你生活在机器人做所有决定的世界里，你可能会认为这是一个反乌托邦的世界。”