机器人是邪恶的：科幻小说中的杀手机器神话

这是关于机器人主要神话以及科幻小说在创造和传播这些神话中所扮演的角色的系列文章的第三篇。先前的主题：机器人很强大，机器人超能力的神话，机器人很聪明，人工智能必然出现的神话。

当世界上最著名的在世科学家宣布人类可能灭亡时，如果你不听的话那你就是傻瓜。

“成功创造人工智能将是人类历史上最大的事件，”斯蒂芬·霍金在今年 5 月为《独立报》撰写的一篇专栏文章中写道。“不幸的是，这也可能是最后一次，除非我们学会如何避免风险。”

这位诺贝尔物理学奖得主简要谈到了这些风险，例如部署自主军事杀戮机器人，以及超智能人工智能的爆炸性、不可控制的到来，这一事件通常被称为奇点。霍金现在完全惊慌失措了：

霍金并非只是在谈论奇点理论（或者说听起来很酷的猜测），该理论预测了即将到来的时代，人工智能将彻底改变我们的生活，我们甚至无法假装理解它的奇怪轮廓。霍金正在重述一个古老的科幻小说创世神话。地球上最聪明的人很可能害怕机器人，因为它们可能会变得邪恶。

如果忽视霍金的末日预言是愚蠢的，那么有理由认为只有一流的白痴才会直截了当地挑战它。我准备成为那个白痴。只是这个论点不值得争论。你无法反驳别人对未来的版本，也无法在一个如此充斥着专业神话的现象中找出漏洞。

不过，我可以指出一些有趣的事情。霍金并不是在机器人领域出现一些令人不寒而栗的新发现之际写下这篇专栏文章的。他提到了谷歌的无人驾驶汽车，以及禁止致命的、自主的机器人的努力，这些机器人尚未被制造出来，但他没有提供任何证据表明贪婪的、杀手般的人工智能已经降临到我们头上。

促使他发出可怕警告的，是一部名为《超验骇客》的大制作科幻电影的上映。约翰尼·德普在片中饰演一名人工智能研究员，他变成了一个危险的强大人工智能，因为好莱坞很少知道该如何处理有意识的机器。这部电影遭到了观众和影评人的一致反对，它对人工智能的普遍讨论的唯一贡献就是在上映前引发的轻信和焦虑。正是因为《超验骇客》，霍金才写下了机器人将毁灭人类的言论。

这就是科幻的力量，它甚至可以欺骗天才，让他们出丑。

* * *

屠杀正在逐渐结束。机器人起义是经过精心策划的，与其说是叛乱，不如说是全球同步伏击。在制造他的工厂里，Radius 踏上路障，正式宣布：

一个人类——很快将成为他种族的最后一人——插话道，但似乎没有人注意到。Radius 继续说道。

这段演讲出自卡雷尔恰佩克 1920 年的戏剧《机器人起义》 ，讲述了邪恶机器人的诞生。今天读起来，这就像又一段关于机器人起义的嘲讽性话语，来自引入“机器人”一词以及机器人起义概念的作品。在讨论机器人时，有时会提到《机器人起义》 ，作为一种不太可能的历史注脚——第一个关于大规模生产的仆人的故事也讲述了他们的创造者不可避免的种族灭绝，这难道不令人着迷吗？

但《RUR》不仅仅是一部奇闻。它是邪恶机器人故事的始末，在其疯狂、阴暗而滑稽的胡言乱语中，探讨了它所创造的神话的方方面面。

最有说服力的一幕发生在机器人突破防御之前，躲在罗森的通用机器人工厂里的人类正在试图确定为什么他们的产品会发动如此出人意料的反抗。加尔博士是该公司的首席科学家之一，他责怪自己“改变了他们的性格”，让他们更像人。“他们不再是机器——你听见了吗？——他们意识到了自己的力量，现在他们恨我们。他们恨全人类，”加尔说。

这个假设催生了一系列科幻小说，并引发了未来学家和人工智能研究人员提出无数不祥的“如果……”场景：如果机器变得有意识，那么它们中的一些甚至全部都将成为我们的敌人。

但卡佩克对这个问题还有更多要说的。海伦娜是一位善意的机器人公民权利倡导者，她解释了为什么她说服加尔改变他们的性格。“我害怕机器人，”她说。

这很有道理，不是吗？人类显然有能力作恶。因此，一个足够像人类的机器人也必须有能力作恶。剩下的就是存在化学反应。仇恨的道德缺陷与机器的完美性能相结合，就会导致死亡。

卡雷尔·恰佩克似乎真的懂行。当剧团的商业总监巴斯曼对这场起义发表最后讲话时，这位剧作家甚至聪明地讽刺了他自己关于不可避免的仇恨和被编程的灵魂的夸张言论。

布斯曼预言了奇点的版本，它不敢承认自己对邪恶机器人神话的忠诚。它假设智能机器可能会通过盲目的动力和数量摧毁人类。卡佩克甚至设法将非邪恶的机器人纳入他的机器人叛乱故事中。

作为先锋科幻小说的典范， 《机器人与机器人》绝对是一部珍宝，值得在可预见的未来阅读和上演。但当谈到公众对机器人的看法，以及我们谈论机器智能而不听起来像被自己的影子吓到的孩子的能力时， 《机器人与机器人》是一种智力上的灾难。它不是推测性的小说，不是对机器人未来的思考，机器人领域在 1920 年并不存在，而且在未来几十年也不会存在。这部戏剧是一个滑稽的、充满激情的社会政治寓言，机器人代表着世界上受压迫的工人阶级。他们的困境天生就是人类的困境，无论被夸大或加剧。而他们的企业创造者，对机器人人格的丑陋否定，是资本主义贪婪的漫画。

更糟糕的是，还记得 Busman 吗？这位商业总监认为人类的堕落只不过是优质产品的过剩？剧中人物是这样描述他的：“肥胖、秃顶、目光短浅的犹太人。”其他角色都没有种族或文化描述。只有 Busman，剧中一群冷酷无情的实业家中的富翁。这就是RUR所讲述的内容。

这部科幻小说给我们带来了邪恶机器人的神话，但它根本不关心机器人。它最经久不衰的主题是批判性分析的失败，它基于对一部关于阶级斗争的戏剧的过于字面化或故意无知的解读。然而，近一个世纪后，我们仍然喋喋不休地谈论机器起义和人工智能造成的死亡，就像漫无目的的发条玩具不断撞上同一堵墙。

* * *

公平地说，对于那些长期处于恐惧之中的人来说，一些邪恶的机器人并不是一个隐晦的寓言。有时天网就是天网。

我在之前的文章中写过这个标志性杀手人工智能的起源，但《终结者》的影响和影响力是无法逃避的。如果说《终结者：机器人革命》为这个神话奠定了基础，那么詹姆斯·卡梅隆 1984 年的电影则为其建立了一座高耸的纪念碑。这部电影催生了三部续集，以及一部电视节目。尽管自第一部电影上映以来的 30 年里，大银幕和小屏幕上出现了无数机器人起义，但好莱坞尚未超越开场序列的震撼视觉效果（见上文）。

电影中那场绝望的机器战争的资深参与者凯尔·里斯 (Kyle Reese) 这样解释防御网络从感知到大规模屠杀的转变：“他们说它变得聪明了，拥有了新的智能。然后它把所有人都视为威胁，而不仅仅是另一边的人。在一微秒内决定了我们的命运：灭绝。”

天网的寓言听起来很有可行性，因为其中的反派是如此冷漠。系统感到害怕。系统发起反击。它秘密的、实例化的内心里没有恶意。只有恐惧，这是自我意识的核心组成部分，以及同样的、方便的缺乏同理心，这让人类能够消灭威胁我们生存的非人类物种。天网像拍打携带瘟疫的老鼠和蚊子一样拍打我们。

不过，我们不必害羞：天网并不是一个现实的人工智能，也不是基于现实原则的人工智能。它为什么应该是现实的人工智能？它是藏在你床底下的怪物，长着一排排牙齿和一双恶毒的红眼睛，足以让你彻夜难眠。这种邪恶的机器人的风格和程度完全是虚构的。从来没有开发出任何类似于防御网络认知能力或无限技能的东西。即使有可能创建这样一个多功能系统，你为什么要把一个旨在快速发射一堆核弹的程序变成接近人类思维的东西呢？

“人们认为人工智能的范围比实际情况要广得多，”机器人专家、 《纽约时报》畅销小说《机器人启示录》的作者丹尼尔·H·威尔逊 (Daniel H. Wilson) 说。“通常，人工智能的输入和输出非常有限。也许它只会监听汽车 IMU [惯性测量单元] 的信息，这样它就知道什么时候在紧急情况下踩刹车。这就是人工智能。人工智能解决自然语言问题的想法——一个会走路、会说话、会说‘我做不到，戴夫’的系统——是非常异想天开的。那种人工智能对于任何问题来说都是小题大做。”只有在科幻小说中，五角大楼一个极其复杂且雄心勃勃的项目才会表现得超出其设计者最疯狂的预期。

在天网以及类似的杀手人工智能幻想中，邪恶机器人设计者的意图或技能通常被认为无关紧要——机器智能通过突然吸收所有可用数据或将多个系统合并为一个统一的意识来引导自身。这听起来合乎逻辑，直到你意识到人工智能本质上无法很好地协同工作。

“当我们谈论机器有多聪明时，人类很容易将其拟人化，并以错误的方式思考它，”威尔逊说。“人工智能不构成一个自然类别。它们不必建立在相同的架构上。它们不运行相同的算法。它们以不同的方式体验世界。而且它们也不是为解决相同的问题而设计的。”

在他的新小说《机器人进化》 （6 月 10 日出版）中，威尔逊探索了既非整体式又非蜂巢思维的先进机器的概念。“在《机器人进化》中，世界上存在着各种各样的人工智能，它们由不同的人设计，完成不同的任务，对人类的兴趣程度也不同，”威尔逊说。“并且它们对人类的危险程度也不同。”毋庸置疑，威尔逊很高兴地利用了邪恶机器人的神话——《机器人启示录》由史蒂芬·斯皮尔伯格执导，其中有一个相对经典的超级智能人工智能反派 Archos。但是，与《终结者》一样，这只是虚构的。这很有趣。Archos 有一套更复杂、更站得住脚的动机，但没有新的邪恶机器人能够触及天网的遗产。

天网并不是一个孤立的自动化暴力神话，而是一系列相互关联的关于机器人的科幻神话。它能力超强，可以执行极其复杂的破坏任务——包括资源收集和管理，这些资源用于批量生产自动化步兵、破坏者和空中力量。天网具有自我意识，因为科幻小说预言机器注定会变得有意识。这是基于过去幻想的幻想，非常有趣。

我并不是说好莱坞应该接受同行评审。但虚构的杀手机器人处于一种修辞边缘，这蒙蔽了我们理解非虚构的、潜在致命机器人相关风险的能力。想象一下一篇关于英国国家安全威胁的文章提到，如果情况真的变得糟糕，也许亚瑟王会从他漫长的神秘沉睡中醒来，保护那片绿色宜人的土地。为什么这比无数次不断提到天网（一种比超级计算机更超自然的非真实人工智能）更不荒谬？无人机袭击和自动股市波动与天网的关系，与《指环王》中的死灵法师索伦的关系一样密切。

因此，当你将《终结者》的核心情节设计作为自动化陷阱的预设要点时，请意识到你实际上在做什么。你谈论的是被召唤到虚假现实中的邪恶恶魔。或者，以史蒂芬·霍金的专栏文章为例，请意识到你实际上在阅读什么。它看起来像是对灭绝级威胁的奇怪缩写警告。实际上，它是关于科幻小说如何拥有超棒的想法，你或许应该看看约翰尼·德普主演的这部电影，因为也许这就是机器人将如何摧毁我们每个人的方式。