“人工智能教父”离开谷歌，公开谈论快速崛起的技术的危险

杰弗里·辛顿被一些人称为“人工智能教父”，他开创了当今最具影响力和争议性的人工智能系统背后的技术。他还刚刚辞去了谷歌的职务，以便更自由地批评他所创建的这个行业。在周一发表的《纽约时报》采访中，辛顿证实他已于 3 月将这一决定告知了雇主，并于上周四与谷歌首席执行官桑达尔·皮查伊进行了交谈。

2012 年，多伦多大学计算机科学研究员 Hinton 和他的同事在神经网络编程方面取得了突破。谷歌很快与他们接洽，希望他们与谷歌合作开发这项技术。尽管研究人员一度对神经网络解析海量数据的数学能力持怀疑态度，但神经网络解析海量数据的数学能力后来成为震撼行业的文本和图像生成 AI 技术的基础，例如 Google Bard 和 OpenAI 的 GPT-4。2018 年，Hinton 和两位长期合作的研究员因其神经网络对 AI 领域的贡献而获得了图灵奖。

[相关：微软解雇了整个人工智能伦理团队，同时全力投入 ChatGPT 。]

但鉴于人工智能最近取得的争议性进展，Hinton 向《纽约时报》表示，他对公司之间酝酿的技术军备竞赛感到非常不安。他说，他对这个几乎没有监管或监督的行业的发展轨迹非常谨慎，并被描述为部分“后悔他一生的工作”。“看看五年前和现在的情况。吸取其中的差异，并将其传播下去，”Hinton 补充道。“这很可怕。”

人工智能的进步已经在传统上较为复杂的领域展现出巨大的前景，例如气候建模和检测癌症等医疗问题。“人工智能实际上可能会变得比人类更聪明——一些人相信这一点，”Hinton 在采访中说。“但大多数人认为这还远远不够。我也认为这还远远不够。我认为它还需要 30 到 50 年甚至更长时间。显然，我不再这么认为了。”

[相关：不，人工智能聊天机器人（仍然）不具备感知能力。]

据《纽约时报》报道，这位 75 岁的研究人员最初认为，谷歌、微软和 OpenAI 等公司取得的进展将提供新的、强大的语言生成方法，尽管仍然“不如”人类的能力。然而，去年，私营公司的技术进步开始让他感到担忧。他仍然认为（大多数专家也这么认为），这些神经网络系统仍然不如人类智能，但他认为，对于某些任务和责任，人工智能可能“实际上要好得多”。

自《纽约时报》的文章发表以来，Hinton 在 Twitter 上澄清了自己的立场，称他“离开是为了谈论人工智能的危险，而不考虑这会对谷歌产生什么影响。”Hinton 补充说，他相信“谷歌的行为非常负责任。”上个月，彭博社的一篇报道称 对员工的采访表明，公司中的许多人认为谷歌在人工智能开发过程中存在“道德失误”。

“我用通常的借口来安慰自己：如果我不做这件事，别人也会做，”Hinton 谈到他对人工智能的贡献时说道。