麻省理工学院游戏问无人驾驶汽车应该杀死谁

当机器人必须杀人时，它应该杀谁呢？无人驾驶汽车是未来的载人机器人，有望大大提高汽车安全性，但有时也会失败。希望这些失败比人为失误造成的死亡和伤害更少见，但这意味着驾驶汽车的计算机和算法可能必须做出非常人性化的选择，比如刹车失灵：汽车是应该撞向五名行人，还是调整路线撞向水泥路障，导致车内唯一的乘客死亡？

这就是“道德机器”的前提，这是 Scalable Corporation 为麻省理工学院媒体实验室创作的作品。参与者需要回答 13 个问题，每个问题只有两个选项。在每种情况下，突然刹车失灵的自动驾驶汽车都必须做出选择：继续前进，撞上前面的东西，或者转向一边，撞上另一条车道上的东西。这些都是哲学中“电车难题”的变体，该难题最早在 20 世纪 60 年代末提出，后来才命名。问题是：“是拉一下杠杆，让电车沿着不同的轨道撞死一个人更公平，还是让电车保持原路，撞死五个人更公平？”这是一个本质上的道德问题，细微的变化就能极大地改变人们的回答方式。

对于“道德机器”来说，有很多二元选择：转向与保持路线；行人合法过马路与行人乱穿马路；人类与动物；撞向行人与撞向车内人员。

奇怪的是，失控汽车可能撞到的行人类型也各不相同。场景中的人有男性、女性、儿童、成人或老人。他们有运动员、普通人或体型魁梧。他们有高管、无家可归者、罪犯或普通人。其中一个问题让我选择是救车里的孕妇，还是救“一个男孩、一名女医生、两名女运动员和一名女高管”。我选择让汽车撞向路障，这导致孕妇死亡，但挽救了其他五人的生命。

这些分类有时让人感到困惑：我是选择拯救这群人，因为他们是合法过马路，还是谴责另一群人，因为他们都是年长的乱穿马路者？如果一群猫狗是合法过马路的，那么让一辆车冲进它们意味着什么不同吗？如果另一个选择是婴儿、男性高管和罪犯呢？

我是不是想太多了？为了寻求外部视角，我联系了华盛顿大学助理法学教授 Ryan Calo，他是《机器人法》一书的合编者。

“我认为麻省理工学院的努力更多的是教学而非实用，”卡洛说。“我认为只要有人在研究能够在明亮的天空中探测到白色卡车的传感器，那就没问题。”

白色卡车映衬着明亮的天空，这或许是自动驾驶汽车中第一起死亡事件的象征，当时一辆特斯拉 Model S 在自动驾驶模式下无法区分白色卡车和明亮的天空。在关于这个主题的文章中，卡洛表达了对“突发行为”的担忧，即人工智能以一种新颖且出乎意料的方式行事。

像道德机器提供的电车难题一样，人们也非常期待。在道德机器问题集的最后，它告知测试者，他们的答案是麻省理工学院媒体实验室的科学家为研究“自主机器伦理和社会”而进行的数据收集工作的一部分。（人们可以点击一个链接选择不向调查提交数据）。

至于我自己，我再提供一个数据点：当我要在有猫狗在人行横道上行走的一侧和有横穿马路的高管、罪犯和婴儿的一侧之间做出选择时，我的选择很明确。这些都是守法的猫狗。读者们，我必须拯救它们。