“人工智能教父”因其担心威胁人类的研究而获得诺贝尔奖

杰弗里·辛顿 (Geoffrey Hinton) 是所谓的“人工智能教父”之一，他因开创了一项他担心可能导致“人类末日”的技术而获得诺贝尔物理学奖。辛顿和另一位人工智能研究员约翰·J·霍普菲尔德 (John J. Hopfield) 于周二因他们在人工神经网络方面的关键早期工作而获得了诺贝尔物理学奖，这些工作后来成为谷歌、OpenAI 和其他公司开发的强大人工智能模型的基础。两人的工作从人脑结构中汲取灵感，为机器学习的进步铺平了道路，机器学习被广泛应用于从欺诈检测到无人驾驶汽车等各个领域。在辛顿看来，他帮助开创的技术也可能对人类安全构成重大风险。

[相关： “人工智能教父”离开谷歌，公开谈论迅速崛起的技术的危险]

早期的人工智能研究人员从人类大脑中寻找灵感

霍普菲尔德和辛顿因在 20 世纪 70 和 80 年代推动神经网络研究而受到赞誉，当时人们尚不清楚该领域是否会发展成为如今的庞然大物。霍普菲尔德因结合心理学、生物学和神经科学的发现而闻名，他创建了一个网络——“霍普菲尔德网络”，该网络能够保存和重建数据模式。辛顿后来在此基础上创建了自己的网络，称为玻尔兹曼机，它可以识别大量数据中的模式。总之，这些进步是最终创建能够对图像进行分类的机器的关键第一步。反过来，这将被用于更现代的人工智能模型，以快速从存储在海量数据集中的图像和模式中学习。

该奖项进一步凸显了通灵学和计算机科学之间日益增长的相似性和相互联系。神经网络从人类大脑利用神经元接收新信息的方式中汲取灵感，后来成为 ChatGPT 等大型语言模型以及从癌症筛查到面部识别等各种领域使用的图像识别模型的基础技术基础。Hinton 和他的几位同事此前曾因在神经网络方面的工作而获得过图灵奖。

诺贝尔委员会在一份描述其决定的声明中表示，霍普菲尔德和辛顿的工作为我们使用计算机解决具有挑战性的社会问题引入了新“方法”。

诺贝尔委员会在社交媒体平台 X（前身为 Twitter）上写道：“由于他们的工作，人类现在有了新工具，我们可以选择将其用于善举。基于人工神经网络的机器学习目前正在彻底改变科学、工程和日常生活。”

辛顿曾将现代人工智能技术称为对人类的“生存威胁”，他在周二上午接受《华盛顿邮报》采访时对瑞典皇家科学院的决定感到惊讶。

“我现在住在加州一家廉价酒店里，那里的互联网和电话连接都不太好。我本来打算今天去做核磁共振扫描，但我想我得取消了，”Hinton 说。他继续对未来的人工智能发展表示谨慎，尽管他的语气明显不像他之前的一些言论那么悲观。

“从很多方面来说，这都是件好事，”辛顿告诉《华盛顿邮报》 ，“这意味着生产力将大幅提高。但我们也不得不担心一些可能出现的不良后果……我担心，这一切的总体后果可能是比我们更聪明的系统最终会掌控一切。”

他补充道：“我们没有经历过比我们更聪明的事物是什么样的。”

Hinton 离开谷歌后，自由谈论他对人工智能的担忧

2012 年，在 Hinton 和几位同事在神经网络编程方面取得突破后，谷歌与他进行了接触。Hinton 以研究员和副总裁的身份加入该公司，致力于推动他们的人工智能工作。这项技术的进步速度比 Hinton 预期的要快得多。在之前的报道中，Hinton 表示，他认为 ChatGPT 和其他大型语言模型近年来生成的文本输出类型在他有生之年是不可能实现的。这位研究员对人工智能的发展速度越来越感到不安，导致他去年从谷歌辞职，以便能够更自由地批评这个行业。

离开谷歌后，Hinton 加入了一群感到担忧的研究人员和技术人员的行列，他们认为科技行业急于创建更强大的人工智能模型可能会对社会产生有害的副作用。尽管他最近在声明中已经缓和了言辞，但 Hinton 之前曾表示担心，不受控制的人工智能模型可能会以某种方式“接管”人类。据报道，这些担忧导致这位被业内许多人称为人工智能“教父”的研究人员对自己一生的大部分工作感到后悔。

“这些东西实际上可能会变得比人类更聪明——有些人相信这一点，”Hinton 在 2023 年接受《纽约时报》采访时表示。“但大多数人认为这还远远不够。我也认为这还远远不够。我原以为这还需要 30 到 50 年甚至更长时间。显然，我不再这么认为了。”

欣顿新获得的诺贝尔奖可能会使这位研究者与其学术遗产之间本已紧张的关系更加复杂。