杀手机器人军备竞赛将会是什么样子？

当它们出现在地平线上时，前来杀你的机器人不一定看起来像战机。加州大学伯克利分校的计算机科学家斯图尔特·拉塞尔说，这是有限的、以人为本的思维，而且只适用于今天的无人武器。捕食者和死神无人机在设计时就考虑到了遥控飞行员和传统飞行力学，并配备了典型的空战武器——威力强大的导弹，既能摧毁建筑物和车辆，也能摧毁人员。明天更灵活、自动驾驶的武装机器人将不仅仅是老式空袭的升级工具。它们将成为屠杀的载体。

更可能的是，未来的致命自主武器系统 (LAWS) 将以数千甚至更多的数量出现。每个机器人都将很小、很便宜、装备轻便，每次只携带最少的武器来结束一条生命。预测这些武器的确切性质既可怕又充满推测，但为了说明我们应该如何调整在战场上部署自主机器人的想法，拉塞尔提出了两个假设。“它也许能够发射微型射弹，威力刚好足以射穿某人的眼球，”他说。“从 30 或 40 米远的地方做到这一点相当容易。或者它可以将聚能炸药直接放在人的头骨上。一克炸药足以在金属板上炸出一个洞。这可能绰绰有余。”

拉塞尔的预测是集中、高效的杀伤力。但将这片攻击云拟人化，将其想象成一群微小的飞行狙击手或掷弹兵，则是另一个错误。拉塞尔估计，经过足够的迭代和创新，LAWS 军备竞赛中开发的系统最终可能每台价格低至 10 美元。它们将更接近于制导弹药的瘟疫，而不是自动化的战斗部队，在受害者身旁留下一串像蝗虫一样的惰性、一次性部件。向城市发射这种武器，下令杀死任何持有类似武器的物体的人，或者只是杀死特定年龄段的每个男性，成本太低，而且太有效，让人无法抗拒。“无论这种军备竞赛最终走向何方，很明显人类没有机会。”

拉塞尔的担忧并非只是担心未来的战争会令人不安或不公平。在《自然》杂志今日发表的一篇评论文章中，拉塞尔重申了他今年 4 月在日内瓦联合国关于禁止 LAWS 的会议上提出的许多担忧。这些担忧包括自动武器被滥用（例如用于犯下战争罪行）以及过度使用的可能性。将机器人派往传统上伤亡惨重的战场（例如城市作战）具有明显的吸引力，再加上其潜在的杀伤力，可能会将武装冲突变成一系列一边倒的大屠杀。“赌注很高，”他写道。“LAWS 被描述为继火药和核武器之后的第三次战争革命。”

“致命自主武器被描述为继火药和核武器之后的第三次战争革命。”

关于自主武器的争论通常集中在谁或什么在做出杀戮决定。人权观察组织和其他反对该技术的组织经常警告说，允许机器人选择自己的目标（例如当距离或地形中断操作员和无人机之间的通信链接时）的好处使得部署此类系统不可避免。与此同时，军方人士坚持认为这些机器没有意志，指挥官总是希望人类“参与其中”，下达攻击特定目标的最终命令。但国防工业仍在向这种能力迈进。国防承包商 BAE Systems 用来描述其正在开发的 Taranis 隐形无人机的营销语言包括“完全自主”一词。

拉塞尔在《自然》杂志上发表的文章中引用了 DARPA 的两个项目，这两个项目旨在大幅提高无人机的自主性。快速轻量级自主 (FLA) 项目正在开发小型无人系统在杂乱环境中导航的方法，而拒止环境中的协同作战 (CODE) 项目则明确表达了其对自主作战的兴趣。“就像狼群以协调的群体方式狩猎，沟通极少，多架搭载 CODE 的无人机将协同寻找、跟踪、识别和攻击目标，所有这些都在一位人类任务主管的指挥下进行，”DARPA 项目经理 Jean-Charles Lede 在今年早些时候的一份新闻稿中表示。

尽管提到了人类监督员，但打击目标也是 CODE 的一部分，该项目旨在处理无人驾驶车辆可能被迫自主行动的情况。“他们倾向于在这里或那里加上几句与人有关的遮羞布短语，”拉塞尔说。“但我认为他们感兴趣。我认为，如果没有禁令，就会出现军备竞赛，它们将被使用。”事实上，他认为 LAWS 已经部署。以色列的 Harop 无人机设计用于在某个区域上空盘旋，搜索敌方雷达站。如果它检测到给定的辐射源，系统会自动撞上它，引爆弹头。“在我看来，这越界了，”拉塞尔说。“它所做的可能是不分青红皂白的。你可以想象巴勒斯坦人在拥挤的学校安装雷达系统，诱骗以色列人犯下战争罪。”

但即使 LAWS 能够完美运作，并能以某种方式穿透战争迷雾，避免大规模友军误伤事件或全面自动化暴行，它们可能与核武器有一个重要的相似之处。没有可行的防御措施来抵御核攻击的压倒性破坏力。拉塞尔认为，一旦自主武器成熟，它们将同样势不可挡，将使冷战核僵局中脆弱的末日地缘政治卷土重来。他担心，如果各国不开始定义和禁止这些系统的复杂过程，并在事态升级之前防止升级，那么乌云向某个城市袭来只是时间问题。“我想人们会想出对策，”拉塞尔说。“某种电磁武器，或者他们可能会发射自己的反无人机云。”但是，如果他的分析是正确的，并且 LAWS 军备竞赛达到了顶峰，即数百万个攻击大量人口的集群，那么有什么东西可以有效对抗相当于自主大规模杀伤性武器的武器呢？

拉塞尔笑了，笑得有点太明白了。“我觉得我们并不想知道。”