为什么真正的 CHAPPiE 机器人更像是一个谜而不是一个朋友

尼尔·布洛姆坎普的新片《超能少年》将于本周末在美国上映，讲述一个有缺陷的机器人出乎意料地变成了一个独一无二的有意识的机器。这部电影发生在南非约翰内斯堡，那里受到全机器人警察部队的保护。这些机器人的才华横溢的设计师迪翁·威尔逊（戴夫·帕特尔饰演）对没有灵魂的机器人并不满意——因此他偷偷加班工作，为他的作品注入意识。

因此，第一个会思考的机器人 CHAPPiE 在被指定毁灭后不久诞生。这台机器开始了它的新生活，对我们通常认为平凡的事物感到敬畏。他（它？）很快就开始更多地了解收留他的人类，并根据他人工快速成长的经历改变了他的思维方式。

布洛姆坎普的电影最终驳斥了斯蒂芬·霍金和伊隆·马斯克等聪明人的警告，并对人工智能的未来做出了乐观的陈述。如果一个机器人从一张白纸开始，但却被赋予意识来帮助它学习和成长，布洛姆坎普暗示它将是一个仁慈的机器人——一个对学术和创造性追求感兴趣的人，而不是某种天网式的末日机器。这样的机器人也会信任创造它的人类，模仿他们，甚至向那些与它交朋友的人表达爱意。

这与电影制作人通常呈现人工智能（全能的机器人，一心要毁灭或奴役人类）的方式相比，是一种乐观而遥远的看法。

如果我们真的能够制造出有意识的机器人，我们可以期待什么类型的系统呢？

如果我们真的能创造出有意识的机器人，那我们能期待什么样的系统呢？一个决心让地球上的人类消失的机器人？还是一个能优雅地融入我们社会的机器人？

我们采访了加州理工学院的人工智能研究员 Wolfgang Fink 博士，希望得到一些答案。他表示，一些更大的问题还需要很长时间才能得到解答——我们离创造CHAPPiE中设想的机器人还差得很远。据为该片提供咨询的 Fink 称，研究人员仍然缺少人工智能难题中最重要的一块：如何制造一个既具有自我意识又具有环境意识的系统。当这些特征可以编程时，我们将拥有一个真正自主的系统。它将是我们以前从未遇到过的。

什么是人工智能？

芬克表示，机器人智能分为三个不同的层次。第一个层次是人类控制的，这也是当今大多数机器人的动力。例如，在《超能少年》中，文森特·摩尔（休·杰克曼饰演）戴上嵌入传感器的头盔来控制一个名为 MOOSE 的巨型军用机器人。“它只不过是人类的机械延伸或远程呈现，”芬克解释道。“智能是由人类灌输的。”

下一个层次是 Fink 认为的真正的人工智能：一个预先安装的、基于规则的系统。机器人配备了系统可能遇到的情况列表，可以对各种预先编程的场景做出反应（适当或灾难性反应）。CHAPPiE 通过约翰内斯堡的机械警察部队发挥了这一级别的智能。机器人警察遵循一套规则，规定执法人员应如何行事以保护公民安全，并且没有真正的即兴发挥。

“它表达了这样的观点：‘我是 CHAPPiE。’这是一个深刻的表达，因为它象征着自我意识，这是没有人能够理解的。”

无论如何，如果你正在努力实现有意识的机器，那么这种智能的障碍在于它缺乏使生物思考的基本要素。这是因为它无法真正意识到自己及其周围环境。

“如果出现有人拔枪的情况，那么 [机器人] 就会拔枪，”芬克在谈到警察机器人时说道。“但是，如果情况发生变化，会发生什么？如果平民跑到现场，他们可能不知道该怎么做，并在此过程中伤害无辜的人。他们没有自我意识或情境意识。”

芬克认为，制造出同时具备两种意识的机器人，将把机器人智能提升到第三级——真正的自主——并标志着第一种人工意识的出现。像 CHAPPiE 一样，这种机器人能够改变自己的思维和个性，从周围环境和与人类的互动中获取线索。最重要的是，它会明白自己是一个有思想的生物。

“它表达了这样的观点：‘我是 CHAPPiE’，”芬克说。“这是一个深刻的宣言，因为它象征着自我意识，这是没有人能够理解的。”

从智能到自主

很有可能，自主系统的“大脑”看起来不会像我们今天在机器人或生物学中所知的任何大脑。不过，无论它看起来如何，芬克说，要使其成为现实，我们应该研究（等待）地质学。

不，自主系统不需要成为岩石专家。芬克认为，地质学在设计人工智能系统方面的价值在于该领域对溯因推理的依赖，而这种技能可能需要多年才能掌握。“你会在 15 或 16 岁时找到一位天才物理学家，但找不到地质学家，”芬克说。“地质学的运作方式不同。”

到目前为止，机器人只能使用演绎推理技能或自上而下的逻辑。通过演绎推理，有意识的生物可以从一般信息得出更具体的结论。这个过程本质上是确定“如果 A 则 B”。例如，如果有人告诉你“所有宇航员都曾在太空飞行过”，那么当你被告知某人是宇航员时，你就会推断他们曾在太空飞行过。人工智能机器人依靠基于规则的系统，已经掌握了这个过程。

正是溯因推理让机器人专家们束手无策。这种自下而上的逻辑使得人们能够从一组不完整的观察结果中得出最佳假设。例如，如果一个人头痛、流鼻涕，医生可能会得出结论，认为他患的是普通感冒。但如果这个人没有表现出其他症状，比如喉咙痛，那该怎么办？那么，感冒的结论可能是错误的，因为可能是链球菌性咽喉炎；医生必须根据手头的事实做出最有根据的猜测。这就是溯因推理如此棘手的原因：它是能够吸收新信息并通过经验得到加强的智能。

机器人要真正具备意识，就需要掌握溯因推理过程。

溯因推理是地质学家每天必须使用的一种过程，这使得这一职业很难掌握。“当你看到一块不应该在那里的岩石时，地质学家会想，‘也许那里发生过洪水’，”芬克说。“所以他们可能会寻找河床的证据。如果没有得到证实，他们必须放弃这个想法，重新开始。”

因此，芬克与地质学家密切合作，希望解开溯因推理过程的要素。从广义上讲，这种逻辑也是人类既具有自我意识又具有情境意识的原因——它坚持要求我们关注自己的生活经历和周围环境，并利用这些信息来塑造我们的假设和行动。机器人要想真正拥有意识，就需要这样做。

“一切都始于观察周围环境中的事物，思考是什么原因造成的，提出假设，然后告诉你下一步该怎么做，”芬克说。“我认为这将是通往真正自主系统的道路。”

真正的自动化系统是什么样的？

假设一个具有溯因推理能力的机器人实现了这一目标。它究竟会如何表现？芬克的回答很简单：我们只有在它发生之前才会知道。

芬克说：“如果你赋予机器人系统能力和工具，让它吸收环境知识，接受教导和学习，根据自己的行为进行判断，然后改变自己的思维，那么它的发展前景将是无限的。”

从 Fink 的角度来看， CHAPPiE在这方面做得不错。这个机器人具有归纳推理能力，他的性格很大程度上基于他与“抚养”他的人的经历。（包括绑架他的一些歹徒。）然而，即使最仁慈的人训练了一个自主系统，Fink 也不相信它会变成一个富有同情心的实体或一个邪恶的实体——它只是不同而已。

“它不受这些核心价值观的支配。它可能有一种我们无法理解的思维和行为方式，但这是一种完全有效的思维方式，”他说。“它可能只是缺乏道德行为。”

正是这种未知的结果让霍金和马斯克等公众人物感到害怕。大多数（如果不是全部）人类行为都源于我们想要实现某个目标的愿望，无论是生存、寻找爱情、保护我们的家人等等。机器人可以用同样的优化目标进行编程，这将有助于我们预测它的行为方式。但如果机器人真正自主，它将有能力随时更新或更改这些目标，而且可能毫无悔意——考虑到我们的生物学（和生物学动机），我们缺乏这种奢侈——让我们对它真正想要的东西一无所知。我们也可能无法准确预测它下一步会做什么。

幸运的是，芬克说，我们还需要一段时间才能看到自主系统投入运行。研究人员甚至还没有掌握人工智能的溯因推理技能。但正如布洛姆坎普在《CHAPPiE》中描述的那样，激进的技术似乎常常会凭空而来。“这不是一个渐进的过程，而是一个颠覆性的过程，”芬克说。“这将是一个通往真正自主的不连续的飞跃。”

更正（2015 年 3 月 6 日，上午 7:54 ET） ：原始报道错误地标注了溯因推理。我们已对整篇文章进行了更正。