智库发布关于“会思考的坦克”的报告

或许，没有哪种军事技术比一台手持枪支的机器能够自行决定杀人更令人心烦意乱。这是反乌托邦小说和电影中贯穿始终的主题，它激发了人们对无人机的抗议，尽管军用无人机仍由人类控制。武器自主化——炮塔或未来的机器将被编程为自行扣动扳机——在未来战争中是绝对有可能的。华盛顿特区智库新美国安全中心的一份新报告希望引导我们冷静地理解这种武装思考机器的未来。

为了便于理解，报告将杀手机器人这个大问题分解成几个小问题。第一个问题是机器自主性的本质。

自主性很复杂，但谈到机器时，最重要的方面是人类对技术仍拥有哪些控制权，以及机器可以自行做出哪些决定。从五角大楼到地方政府，每个人都非常关心确保人类参与做出致命决定，官员们绝对不想把任何武器交给机器人，更不用说超级致命的武器了。

让人类参与的技术术语是“在循环中”，但最重要的是人类在这个循环中的位置

让人类参与其中的专业术语是“参与其中”，但最重要的是人类在这个循环中的位置。机器人扫描环境寻找目标并在向每个目标开火之前征求人类的同意，这与战场上的机器人询问它是否可以自己选择和攻击目标不同。这些都是军事思想家、机器人设计师和起草新战争法的人都必须考虑的问题，所以最好在一开始就提出这些问题。

报告作者保罗·沙尔和迈克尔·C·霍洛维茨进一步分析了“在回路中”的概念。导弹识别目标但在发射前询问是“人在回路中”，而机器选择目标并自行攻击则是“人不在回路中”。然而，对于自动发射防御性武器，如反导导弹发射装置，存在一个中间立场，其发射速度需要快于人类的反应速度，否则将无法工作。沙尔和霍洛维茨将此类武器称为“人在回路中”。在这些情况下，武器可以在未经人类批准的情况下发射，但人类可以阻止未来的发射。

这些区别的重要性在于，它们就像自主性本身一样，是程度问题。通过将自主性划分为不同类别，国防规划人员、立法者和人权组织可以对不同类型进行不同对待，尤其是更具威胁性的“圈外人类”。

如果军用机器人将成为未来战争的一部分，那么最好有一个共同的术语来理解哪些机器人可以做什么。《武器系统自主性简介》并没有提供世界和军方应如何对待自主机器人的所有答案，但它为任何想要在未来进行这种对话的人列出了有用的词汇。

点击此处阅读完整报告。