机器人开始产生自我怀疑

你知道你脑海里的那个小声音说，“从悬崖上跳下去也许不是一个好主意”，或者“你不能喝掉一整加仑的牛奶吗？”

那种低语是自我怀疑，它的存在有助于我们活下去。但机器人没有这种本能——看看 DARPA 机器人挑战赛就知道了。但机器人和无人机要想在现实世界中生存，就需要意识到自己的极限。我们不能让机器人在黑暗中乱窜，或者试图冲破墙壁。在一篇新论文中，卡内基梅隆大学的研究人员正在努力让机器人自省，或者说自我怀疑。通过人工智能预测自己失败的可能性，机器人可以变得更加深思熟虑，也更加安全。

要判断一个动作是否会失败，关键在于预测。作为人类，我们自然会通过想象做出决定后可能出错的一切来预测结果。在决定无人机的飞行路线的情况下，算法必须查看来自无人机摄像头的视频，并根据图片中的物体预测其下一步动作是否会导致坠机。无人机必须想象未来。

这个想法超越了物体检测，这是目前一些无人机所具备的功能。物体检测很简单：如果有东西挡路，就不要去那里。但这个框架将允许人工智能真正确定该场景是否会对其主要任务产生不利影响。这包括阻挡无人机传感器的天气条件，或其摄像头所需的光线不足。它理解潜在威胁，而不是对其做出反应。

在卡内基梅隆大学的测试中，研究人员让一架经过改装的无人机在公园的树林中自主飞行。通过预测无人机的轨迹以及沿该路线坠毁的可能性，无人机的飞行时间是没有自省的尝试的两倍多——穿越障碍物超过 1000 米。

但这项工作仍处于初步阶段，而且并非孤军奋战。微软研究院的 Eric Horvitz 多年来一直在研究这个想法，重点是让许多决策算法协同工作。

霍维茨说：“我们正在开发能够同时反映很多很多事物的主动系统，这些系统可以一起思考，并优雅地协调许多能力和功能，以便它们的运作或多或少就像一场练习良好的交响乐。”

其中一个场景重现了一档游戏节目，但主持人是人工智能，对手是两名人类。人工智能会提出问题，人类会回答。但为了保持正常的对话（例如询问参赛者是否需要更多时间），人工智能会计算出计算答案需要多长时间，并将其与人类可能说话的时间进行比较。如果时间太长，机器人就会保持沉默。

“添加这一层很漂亮，它使系统更加优雅，”霍维茨说。

如果说机器人有一条自我意识之路，那就是通过教授内省。这正在向机器人灌输一种粗暴的求生法则，这种想法可能会让一些未来学家不寒而栗。但至少目前，这些机器人几乎无法躲避树木——因此人类至少在未来几年内都是安全的。