你不应该害怕大众杀手机器人

昨天，互联网上充斥着有关机器人在德国杀死某人的新闻。在耸人听闻的外表之下，隐藏着一个悲惨的事实：德国大众汽车工厂的工业机器人确实杀死了一名正在安装它的 22 岁工人。尽管有报道，但这似乎并不是机器引发的末日的开始——在前往后院掩体之前，我想听听第二种意见。Ryan Calo 是华盛顿大学的法学教授，他发表了关于我们即将到来的机器人未来以及机器人与网络法之间相互作用的学术著作。

我通过电子邮件向 Calo 发送了一些问题，下面附上了他的回答。我还在适当的地方添加了链接。

《大众科学》：昨天推特上关于工业机器人杀人的讨论一片沸沸扬扬。你当时说“这种事情比较常见”。你那句话是什么意思？

Ryan Calo ：仅在美国，每年就有大约一人被工业机器人杀害。劳工部记录了此类事件，标题包括“员工被机器人碾压致死”（2006 年）或“员工被工业机器人碾压致死”（2004 年）。

您之前写过关于自主机器可能出现的独特错误的文章。在未来的“机器人杀人”故事中，我们应该注意哪些特征，才能让某件事从“工业事故”变成“自主错误”？

是的。工业机器人往往会一遍又一遍地做同样的事情，比如抓取和移动，而且通常无法分辨它们正在处理的是什么。这就是为什么工厂会设立“危险”或“杀戮”区域，在机器人操作时，人们必须远离这些区域。我写的是未来机器人将表现出的不是自主性，而是突发行为。斯蒂芬·约翰逊在他那本优秀的书中对突发行为的定义是，有用但令人惊讶的活动。有时会发生一些让程序员感到恐惧的事情——他们从未预料到的。例如，谷歌的图像算法最近将一张两个有色人种的照片标记为“大猩猩”。谷歌对此感到十分震惊。

我谈论的是当我们开始看到能够表现出突发行为的实体机器人时会发生什么。事故类型不同，不太可能涉及受害者的错误，但可能并不比谷歌的标记算法更容易预测。

初步报告将死亡归咎于人为失误。您认为在什么情况下，让人类“参与”自动驾驶系统会成为一种责任，而不是一种安全功能？

在工业机器人领域，这艘船早已启航。你不可能让一个人参与其中并保持今天的生产力。相反，你必须通过协议、警告等方式确保人们不要妨碍机器人。

关于让人类“知情”以防机器人杀人，当然是讨论自主武器的一个重要部分。人们普遍认为，人们应该保持“有意义的人类控制”，但很少意识到这意味着什么。

我们是否应该接受机器事故是日常生活的一部分，就像汽车事故一样？或者夸张的“机器人杀人”新闻标题是否具有警示作用？

有时我担心对机器人的恐惧会导致人类生命的净损失。我讲了一个关于无人驾驶汽车的故事，它面临着撞上购物车还是撞上婴儿车的选择。假设无人驾驶汽车比人类司机安全 20 倍。但如果它在我的场景中选错了，标题就会变成“机器人杀死婴儿以拯救杂货”，让自动驾驶倒退十年。

好的，但是我怎么知道你自己不是一个机器人，在机器接管之前试图引诱我们陷入一种虚假的安全感？

恐怕我无法回答这个问题，凯尔西。