人类不知道如何驾驶自动驾驶汽车

我工作的宾夕法尼亚大学人机交互实验室的 Slack 频道通常都是持续不断的课程提醒和爬墙机器人视频。但今年春天，第一起与特斯拉 Autopilot 相关的死亡事件的新闻让这个频道变成了尼亚加拉瀑布般的批评之声：

研究生助理：所有推出产品的人都习惯于在实际开始之前声称产品正在发挥作用，以让人们/投资者感到兴奋。

博士后研究员：我的看法是，至少在技术进步之前，这种失败是不可避免的。特斯拉是第一个尝试的，因此受到了更严格的审查。

学生研究员：如果司机专心驾驶，他们就不会把拖拉机拖车误认为是路标。

这种情况持续了好几天。各方的争论似乎都有道理。所以我做了功课，详细阅读了这起事故的相关信息——该事故夺走了一名俄亥俄州男子的生命，该男子驾驶一辆开启了自动驾驶仪的特斯拉 Model S。我想了解这个系统，也许是迄今为止最先进的人机交互公开实验，为什么会出错。这名男子的汽车在佛罗里达州撞上了一辆穿越美国 27A 号公路的拖车。据特斯拉称，这辆车的紧急制动系统无法区分卡车的白色侧面和明亮的天空。

从技术角度来看，这就是问题所在。对汽车安全专家和特斯拉来说，更重要的因素是司机也没有注意到即将发生的碰撞。所以他没有刹车——他的车撞到了拖车下面。

随着自动驾驶汽车开始上路，是时候评估我们对生活中智能机器和机器人的一些长期误解了。我们中的许多人从小就相信无所不知的伙伴机器人，比如霹雳游侠的智能汽车伙伴 KITT。（“我希望这一切结束后能有一个完整的西蒙化。”）

是的，这是虚构的，但我们的期望是固定的——而且，也许通过像 Roomba 和无处不在的任务控制洗碗机这样一劳永逸的家用机器人，我们的期望甚至得到了进一步的巩固。

自动驾驶仪并不是我们想象中的 KITT 场景。它的说明明确指出，人类仍是自动化方程式的一部分。（即使有了智能机器，我们仍然必须阅读说明！）特斯拉公开宣布其自动驾驶仪软件是一个测试程序（这意味着它仍在解决错误），并告诫司机保持警惕，双手放在方向盘上。但工程和营销之间存在着微妙的脱节。特斯拉在 2015 年 10 月宣布软件更新的博客文章标题为“您的自动驾驶仪已经到来”，就好像机器人司机即将停下来接我们一样。在海外，该公司的中国营销部门将这一新功能翻译为“自动驾驶”——这一事实导致一名司机指责特斯拉与一辆停着的汽车发生侧撞。

早期的 Autopilot 采用者延续了我们的幻想和滥用该技术的欲望。YouTube 上开始出现令人欣喜若狂的视频，视频中成年人（笑得合不拢嘴）举着双手试驾汽车，就像坐过山车一样，还有人在车流中玩跳棋和积木。一段专业制作的视频评论被观看了 50 万次，在描述中给出了一条不太有用的提示：“免责声明：……本视频中的活动是制作和编辑的。安全是我们最关心的问题。不要犯傻。注意路况。”

所以，不要做我们刚才做的事。

正确的。

他们忽略了一点：共享控制是自动驾驶游戏的名称。

我们可以从战斗机飞行员的训练中了解到很多关于这种关系的信息。自卡特政府以来，专业飞行员一直使用所谓的电传操纵系统飞行，这是一个统称，指的是任何计算机控制的飞行辅助系统。与自动驾驶仪一样，电传操纵系统是一种辅助技术，旨在增强而不是取代飞行员管理飞机的责任。飞行员在控制驾驶舱之前要接受多年的训练，对计算机所看到的内容以及计算机如何处理信息了如指掌。他们还学会保持对情况的了解，并随时准备做出反应，尽管有技术在场——而不是采取放任自流、让飞机自己工作的态度。

普通驾驶员不可能像飞行员那样接受深入的训练。但汽车制造商必须找到有效的解决办法。首先，他们需要的不仅仅是驾驶员安装 Autopilot 软件更新时屏幕上显示的几页软件发行说明。他们应该开发短期培训计划（与某些州要求考取驾照的周六课程类似），帮助人们了解自动化系统的工作原理、自动化系统何时可以工作、何时不能工作，以及为什么人类驾驶员需要随时介入。美国空军前首席科学家、电传操纵和人机交互专家 Mica Endsley 表示：“Autopilot 等自动化技术的一个问题是，当出现错误时，人们往往会置身事外，既不能及时发现问题，也不能及时理解如何纠正问题。”

培训更聪明的驾驶员是解决方案的一部分。但自动驾驶软件需要强化这种培训。设计这些软件和汽车的工程师需要了解人类的行为和认知，以便更好地与公众沟通。值得庆幸的是，这种人机交互已成为汽车制造商和学者日益增长的研究领域。在斯坦福大学，交互设计专家正在学习如何让自动驾驶汽车的摄像头、雷达和传感器感知和推理对人类更加透明。他们说，汽车制造商应该采用口语化的声音提示（“前方有障碍物，请刹车”）和控制的物理变化（例如，当驾驶员需要接管时，改变方向盘的角度），让驾驶员意识到道路上的变​​化——比如，卡车即将切断他们的路——或者防止他们做白日梦，掉进沟里。

此类切换信号仍然相当微妙，但应该会变得更加微妙。在 Model S 上，自动驾驶仪仪表盘图标上的音频音调和颜色变化是驾驶员需要接管控制时获得的所有提示。凯迪拉克的 SuperCruise 和沃尔沃的 Pilot Assist 会微妙地振动座椅或方向盘以引起注意，从而实现相同的目标。但汽车制造商需要更积极地帮助我们；斯坦福大学最近的一项研究表明，多感官方法（例如，将摆动的方向盘与语音提示和闪光灯相结合）可能是加快反应时间的更好方法。

谈到新技术，没人愿意慢行。在这个即时应用、地图和手指滑动交易盛行的时代，情况并非如此。但司机应该谨慎（和集中注意力）地进入自动驾驶汽车的世界。这项技术可能会让人们在高速公路上飞驰时放松注意力，这需要对人类进行更好的培训，并为机器提供更智能的警报系统。

今年五月发生的致命自动驾驶事故可能是最糟糕的情况，但它凸显了人类和机器如何共享驾驶座的重要性。

本文最初发表于《大众科学》杂志 2016 年 11/12 月刊，标题为“不要责怪机器人，要责怪我们”。