人工智能是终结者：奇点是科幻小说基于信仰的倡议

这是关于机器人主要神话以及科幻小说在创造和传播这些神话中所扮演的角色的系列文章中的第二篇。上一篇和前一篇的主题分别是：机器人很强大，机器人超能力的神话，以及机器人很邪恶，杀手机器的神话。

1993 年，弗诺·文奇 (Vernor Vinge) 写了一篇关于世界末日的论文。

文奇写道：“三十年内，我们将拥有创造超人智能的技术手段。不久之后，人类时代就会终结。”

当时，文奇可以说是双重威胁——他是圣地亚哥州立大学的计算机科学家，同时也是一位广受好评的科幻小说作家（尽管他后来才获得雨果奖）。最后一部分很重要。因为这篇为 NASA 研讨会撰写的论文读起来就像是引人入胜的科幻小说和世俗预言的绝妙结合。

“即将到来的技术奇点”概述了即将到来的清算，届时处理能力的不断提升将超越人工智能（具有类似人类的认知和感知的系统），并催生超级智能机器。

这就是文奇所说的“奇点”，即我们共同未来的一个点，它将被技术的快速发展彻底且不可知地改变。文奇深入探讨了奇点，但谦虚地将其追溯到先驱数学家约翰·冯·诺依曼——未来学家眼中的黑洞，描述了进步本身将继续加速的方式，越接近机器超级智能的曙光，进步的速度就越快。一旦人工智能 (AI) 完成，全球转型可能需要数年，甚至仅仅几个小时。值得注意的是，文奇引用了格雷格·贝尔的一篇科幻短篇小说作为后一种结果的例子，就像一位先知用圣经中的段落来支持他对即将到来的末日的论证一样。

但这里的观点很简单——奇点将通过动力到来。智能人工智能将产生天才人工智能，经过控制论增强的后人类将形成巨大的蜂巢思维，这些伟大的数字力量不仅将学习和分享每一点可用数据，还将重新定义信息的学习和共享方式。“人类种族的物理灭绝是一种可能性，”文奇写道，但他也允许未来由“仁慈的神”监督。他描绘了一系列生动的选择，讨论了数字永生的心理陷阱（引用了另一部科幻小说，这是拉里·尼文的作品），以及互联网突然醒来进入集体、噩梦般的感知的前景。无论结果如何，我们所知道的世界都将终结。

要相信奇点，你就必须相信科幻小说所讲述的最伟大的神话之一——机器人是聪明的。

奇点最紧迫的特征是其近期的确定性。文奇认为奇点将在 2023 年或最迟 2030 年出现。雷·库兹韦尔是一位成就卓著的未来学家、作家（他 2006 年出版的《奇点临近》一书使这一理论广为人知），最近被谷歌聘用，他认为 2029 年将是计算机匹敌甚至超越人类智能的一年。这取决于你同意哪位杰出人物的观点，这给了人类 9 到 16 年的好时光，之后一群机器神灵将决定如何对待我们。

如果你想知道为什么人类在面对即将被淘汰的消息时能如此平静，那么很可能人类只是在否认。也许我们不愿意接受维格、库兹韦尔和其他聪明人宣扬的残酷事实。

然而，另一种否认形式同样可能存在。也许掌权者并不关心奇点，因为他们认为这是科幻小说。这是科幻作家提出的理论。其影响体现在科幻的意象和语言中。要相信奇点，你必须相信科幻史上最伟大的神话之一——机器人很聪明，而且总是处于变得比我们更聪明的边缘。

60 多年的人工智能研究表明事实并非如此。这就是为什么奇点只不过是书呆子的狂喜。

* * *

尽管科幻作家非常注重细节，但他们却有一个奇怪的习惯，那就是在机器感知诞生时离开房间。

以弗诺·文奇 1981 年的中篇小说《真名实姓》及其渴望权力的人工智能对手为例。它被称为邮递员，因为它与其他近未来的黑客（它最初伪装成其中一名）的互动速度像蜗牛邮件一样快，需要一天或更长时间才能写出一个回复。当这个贪婪的软件最终在网络空间与一小群黑客展开战斗时，文奇的描述长达数页，因为双方都控制着整个联网地球的集体处理能力，留下了大面积的中断和市场崩溃。

然而，在小说的最后一幕中，邮递员——世界上第一个真正具有自我意识的计算机系统——的起源只被寥寥几段描述。该人工智能由美国国家安全局于十年前创建，是一个没有思想的安全程序，是一个自动潜伏的特工，旨在潜伏在特定的计算机网络中，逐渐收集数据和意识。政府终止了该项目，但意外留下了一小段代码。正如一位黑客所解释的那样，“多年来，它慢慢成长——既因为它的自然倾向，也因为它所处的网络的强大功能。”

就是这样。人工智能领域最伟大的成就是偶然发生的，并且不为人所知。

平心而论，对于弗诺·文奇来说，这是机器人科幻小说中最常见的躲闪手段之一。在1970年的电影《巨人：福宾计划》以及1966年它所改编的小说中，真正的人工智能是两个准人工智能会面后自发产生的副产品。巨人是一个负责美国核武库的自动防御系统，它开始与苏联同行卫士共享信息。但无论这两个程序说什么，观众都看不到或听不到，人类角色也一样。这两个系统混合在一起，在几分钟内就变成了一个无所不知的实体。巨人的精神继承者天网也是如此。在1984年的《终结者》中，我们了解到这个种族灭绝的军事系统只是“变聪明了”。案子就此结束。1991年的续集增加了一些细节，规定天网在启动后大约 25 天就开始具有自我意识。后来，影响力较小的《终结者》续集详细阐述了该系统的突然崛起，并证明从叙事角度来看，一些反派最好留在阴影中。但前两部电影决心远离机器感知的虚构机制。

然而，所有这些故事传达的信息都是相同的：人工智能的到来是命中注定的。逻辑要求这样做，基于计算机进步如此之快这一简单而无可辩驳的观察。有了这么多的势头，自动化系统将不可避免地一头扎进感知领域。这是一个定局，任何粗略的网络搜索都会产生大量来自非虚构人工智能研究人员的类似说法。

不幸的是，同样的搜索结果也揭示了人工智能研究人员在预测未来方面有多糟糕。最糟糕的是该领域的两位巨头。1957 年，计算机科学家、未来的诺贝尔奖得主赫伯特·西蒙 (Herbert Simon) 预测，到 1967 年，心理学将成为一个高度计算机化的领域，计算机将在国际象棋比赛中击败有血有肉的世界冠军。他的后一个说法错失了 30 年，前一个说法在今天和 1957 年一样令人费解。但西蒙运气不错，他在 1965 年宣布“机器将在 20 年内能够完成人类可以做的任何工作。”

麻省理工学院人工智能实验室的联合创始人马文·明斯基对通用人工智能（AGI）更加看好。通用人工智能是人工智能研究中最常用的术语，指的是人类级别的机器智能。1970 年，明斯基估计通用人工智能将在 3 到 8 年后实现。

请放心，AGI 并没有在 1978 年或 1985 年秘密出现，并开始吞噬大量数据。但这并没有阻止 Vinge 和 Kurzweil 等人发布自己的最后期限。它也没有完全揭示奇点是无限的、不受支持的乐观情绪的重申，这种乐观情绪耗尽了数十年来人工智能研究的资金（巧合的是，这种乐观情绪始于明斯基 1970 年的预测之后不久）。就像陷入《终结者》时间循环的角色一样，我们似乎注定要重复同样的预言和尴尬循环，并重复西蒙和明斯基的核心错误。

要想看到 AGI 的不可避免，你必须像科幻小说经常做的那样，把机器人想象成等待出现的怪物或救世主般的天才，而把人类想象成一群傻瓜。

* * *

如果你是奇点理论的忠实信徒，那么你可能已经掌握了从人工智能研究和神经科学的交叉领域借用的大量术语。就像所有伟大的预言语言一样，这些词语无需多言就能激发思维。神经网络。神经形态系统。计算机大脑的运作方式与我们自己的大脑一样，而且在某种程度上，这种运作方式已经持续了几十年。还有一些有前途的现实项目可以借鉴，比如欧盟耗资 13 亿美元的人类大脑项目，其雄心勃勃的目标包括创建一个完整的生物大脑数字模拟，并使用该模型来驱动物理机器人。毫无疑问，奇点已经来临。

但除了少数例外，机器超级智能的实现途径都是直接通过人脑。任何声称了解生物智能的人都是傻瓜或骗子。

神经科学在直接观察大脑以及将电活动和神经化学活动与某些行为形式联系起来方面取得了令人难以置信的进展。但是，我们越仔细观察大脑，它的结构和模式就越复杂。人类大脑计划以及美国的大脑计划旨在解决这样一个事实：我们对人类思考的方式和原因知之甚少。这些项目并不是战胜生物学的标志，也不是终点线即将到来。它们是谦逊的体现。

与此同时，奇点理论的支持者仍然相信，通过纯粹的处理能力，智能可以强行实现。西蒙和明斯基也曾这样认为，但事实证明他们完全错了，这令人尴尬。或者说，这种方法奏效的唯一证据根本不是证据，而是科幻小说。在这些故事中，AGI 是如此可行，以至于它几乎可以想象自己会实现。

“任何做过真正科学研究的人，无论是在实验室里进行实验还是编程，都知道，并不是你点击编译，你的程序就突然完美运行，并自行发展成为神，”科幻作家、技术专家、人工智能专利持有人、具有讽刺意味的是，奇点大学讲师拉梅兹·纳姆 (Ramez Naam) 说道。尽管纳姆自己的小说中包括人类意识的网络化和上传，但他已成为奇点最直言不讳的批评者之一。他认为，该理论对 AGI 必然性的假设与我们最过时的人工智能预期并无不同。

“如果你在 50 年前问某人，第一台在国际象棋比赛中击败人类的计算机会是什么样子，他们会想象一种通用人工智能，”Naam 说。“那将是一种有感知能力的人工智能，还能写诗，有是非观念。但事实并非如此。它根本不是那样。”尽管 IBM 的 Deep Blue 在 1997 年战胜了 Garry Kasparov，但它距离感知能力还差得远，不比 ThinkPad 笔记本电脑。尽管 IBM 的 Watson 在 Jeopardy 比赛中表现出色，“但 IBM 的 Watson 不会下国际象棋，也不会驾驶谷歌的机器人汽车，”Naam 说。“我们实际上并没有朝着通用人工智能的方向发展。我们只是在构建越来越好的专业系统。”

即使你笨拙地将各种专门系统嫁接在一起，它们也不会成为 AGI。实际上，这可能在科幻电影中起作用，AGI 似乎遵循与好莱坞版黑客相同的过于简单的规则，能够忽略编程语言和数据协议的明显差异，并开始像某些巫师的神秘、无限的资源一样吸取和使用信息。即使你可以将一组智能机器统一到一个系统中，它仍然不会神奇地产生创造性、自适应认知或学习（而不是记忆）的能力。虽然人类智能尚未量化，但我们至少知道它是非线性的。突触活动可以流经大脑中看似不相关的广阔区域，牺牲速度和效率来获得循环、自由的灵活性。我们的记忆是可塑的和不完整的，与编码或机械世界中的任何东西都不一样。这些是设计缺陷吗？需要修复吗？或者它们只是特征，证明智能是一个黑匣子，我们仍然没有工具来正确打开它？在任何人能够从头开始构建 AGI 或以某种方式将人类和机器融合成一个混合体之前，这些问题仍然有待解答。

我并不是说机器感知是不可能的。突破在有机会凭空出现之前是不能被忽视的。但对奇点的信仰应该被承认为一种世俗的、基于科幻的信仰体系。我把它比作预言和科幻小说，并不是想故作含蓄。由于缺乏机器智能即将爆发的证据，并故意无视已经过去了的 AGI 最后期限，奇点依赖于挥手。这是科幻术语，指的是未指明的技术飞跃。不过，这种捷径还有另一个名字。它被称为信仰。