甚至人工智能科学家也害怕超人类智能的想法

甚至人工智能科学家也害怕超人类智能的想法

1993 年,计算机科学家兼科幻小说作家 Vernor Vinge 预测,在三十年内,我们将拥有创造出超越人类的智能的技术。“不久之后,人类时代将终结,”Vinge 说道。

事实上,30 年后,人工智能创造的实体能够超越(至少与人类能力相当)的想法已不再是投机者和作家的专利。人工智能研究人员和技术投资者正在寻求所谓的通用人工智能 (AGI):一种能够在各种智力任务中达到人类水平的实体。一些研究人员现在认为,如果人类能够成功创造出通用人工智能,“人类时代的终结”将不再是一个模糊而遥远的可能性。

[相关:不,人工智能聊天机器人仍然没有感知]

未来学家经常称赞文奇推广了许多评论家所谓的“奇点”。他相信技术进步最终会催生出一个能力超越人类大脑的实体。它的引入将使世界变得面目全非——用文奇自己的话来说,这是一种“堪比地球上人类生命的兴起的变化”。

也许将奇点想象成一个强大的人工智能是最容易的,但文奇却用其他方式设想了它。生物技术或电子增强技术可能会使人类大脑变得更快、更聪明,比如将人类思维的直觉和创造力与计算机的处理器和信息访问结合起来,实现超人般的壮举。或者举一个更平凡的例子,想想普通智能手机用户拥有的超能力,足以让 1993 年的时空旅行者惊叹不已。

路易斯维尔大学计算机科学家罗曼·亚姆波斯基 (Roman Yampolskiy) 表示:“关键在于,一旦机器接管了科学和工程流程,其进步速度就会如此之快,你无法跟上。”

Yampolskiy 已经在自己的领域看到了这种未来的缩影,人工智能研究人员正在以极快的速度发表大量论文。“作为专家,你不再知道最先进的技术是什么,”他说。“它发展得太快了。”

什么是超人智能?

虽然文奇没有提出任何一条通往奇点的路径,但一些专家认为 AGI 是通过计算机科学实现奇点的关键。其他人则认为该术语是一个毫无意义的流行词。一般来说,它描述的是一种在任何智力任务中都能与人类表现相匹配的系统。

如果我们开发出通用人工智能,那么未来创造超人智能的大门就打开了。当应用于研究时,这种智能可以以惊人的速度产生自己的新发现和新技术。例如,想象一个比任何现实世界的计算机科学家都更好的假想人工智能系统。现在,想象一下这个系统反过来负责设计更好的人工智能系统。一些研究人员认为,结果可能是人工智能能力的指数级加速。

[相关:工程师终于窥视深度神经网络]

这可能会带来问题,因为我们并不完全理解为什么许多人工智能系统会以它们的方式行事——这个问题可能永远不会消失。Yampolskiy 的研究表明,我们永远无法可靠地预测 AGI 能够做什么。在 Yampolskiy 看来,如果没有这种能力,我们将无法可靠地控制它。他说,后果可能是灾难性的。

但预测未来很难,世界各地的人工智能研究人员在这个问题上意见远未统一。2022 年中,智库 AI Impact 调查了 738 名研究人员对奇点式情景发生可能性的看法。他们发现,33% 的人回答说这种命运“可能”或“很有可能”,而 47% 的人回答说“不太可能”或“不太可能”。

“我感觉这会让人们忽视真正重要的问题。”

Sameer Singh,计算机科学家

加州大学欧文分校的计算机科学家萨米尔·辛格 (Sameer Singh) 表示,由于缺乏对 AGI 和奇点的统一定义,因此很难对这些概念进行实证检验。“这些都是值得思考的有趣学术问题,”他解释道。“但从影响的角度来看,我认为社会上可能发生的事情远不止这一门槛。”

事实上,辛格担心,专注于可能的未来会掩盖人工智能的失败或愚蠢行为已经产生的真正影响。“当我听说资源流向 AGI 以及这些长期影响时,我觉得这会转移真正重要的问题,”他说。已经确定的是,这些模型可以产生种族主义、性别歧视和事实错误的结果。从法律角度来看,人工智能生成的内容经常与版权法和数据隐私法相冲突。一些分析师已经开始指责人工智能煽动裁员和取代工作岗位。

“谈论‘我们已经实现了这个科幻目标’比谈论事情的实际情况更令人兴奋,”辛格说。“这就是我的现状,我觉得我合作的很多社区成员也都处于这种状态。”

我们需要通用人工智能吗?

对人工智能未来的反应反映了社区在构建、微调、扩展和监控模型方面存在的诸多分歧之一。计算机科学先驱杰弗里·辛顿 (Geoffrey Hinton) 和约书亚·本吉奥 (Yoshua Bengio) 最近都表达了对他们认为正在失控的领域的遗憾和迷失方向。一些研究人员呼吁暂停开发比 GPT-4 更强大的人工智能系统六个月。

亚姆波斯基支持暂停的呼吁,但他认为半年、一年、两年或任何时间都不够。他的观点十分明确:“获胜的唯一方法就是不这么做。”

<<:  定制 Google Chrome 新标签页的 4 种方法

>>:  五角大楼希望改装车辆以实现自动驾驶

推荐阅读

《吻我到你的眼睛》的魅力与评价:彻底分析这个感人的爱情故事

眼中之吻的详细评论和推荐 - 眼中之吻 -概述《吻我吧》于 1993 年 8 月 27 日作为 OV...

飙速宅男 GLORY LINE 第四季:全面回顾巅峰挑战与惊险刺激的比赛

飙速宅男 GLORY LINE概述《飙速宅男 GLORY LINE》是改编自渡边航的人气漫画《飙速宅...

这个艺术装置可以报时并产生太阳能

已知最古老的日晷是 3000 多年前在埃及制造的,用于在太阳穿过天空时报时。从那时起,我们大大提升了...

章鱼统治世界简史

章鱼、章鱼、八爪鱼:无论使用何种复数形式,这种拥有八条触手的水下头足类动物都是一种非常聪明的象征,象...

跳跃的鹦鹉可以教机器人如何飞行

我们经常用“直线距离”来描述两点之间的最直接路线。但飞行并不总是最有效的出行方式。看看鹦鹉就知道了。...

稻草人正在制造金属人来杀死你

把你的无人机狩猎执照收起来——《大众科学》杂志 2011 年 1 月封面上的这个杀手豹机器人不会咬任...

回声定位如何让蝙蝠、海豚甚至人类通过声音导航

在没有光或视觉无法发挥作用的环境中,一些生物学会了通过声音生存。它们依靠叫声、咔哒声和叽叽喳喳声来绘...

幽灵蝙蝠无人机可与下一代空军战斗机一起飞行

美国空军正在寻找一种在空中赢得战斗的新方法,并正在转向使用可以护送载人战斗机的无人机。为了探索这一概...

对致命病毒具有免疫力的基因编辑猪将于明年投入农场

美国农民比以往任何时候都更接近培育出对动物最致命疾病之一免疫的转基因猪。尽管通过培育对高毒性、多种猪...

在亚马逊上仅需 250 美元即可购买 KitchenAid 立式搅拌机

几十年来,KitchenAid 立式搅拌机一直是家庭烘焙师的必备电器,以其制造质量和使用寿命而闻名。...

《乱步》的魅力与评价:必看的动画

乱步 - 乱步 - 综合评价与推荐■ 公共媒体电视动画系列■ 原创媒体漫画■ 播出时间1984年4月...

去!去!康妮酱! - 对这部引人入胜的动画的详细评论和推荐点

去!去!康妮酱! - 怀旧角色动漫的魅力20世纪90年代中期,在孩子们当中掀起轩然大波的人气动画《康...

我们对 51 区了解多少

格鲁姆湖位于拉斯维加斯大道西北偏北约 80 英里处。这个光滑、平坦、干涸的湖床是内华达沙漠中的几个湖...

《在这个角落》:透彻解析震撼故事与深刻主题

《杀戮器官》:继承伊藤计划遗产的宏大故事《杀戮器官》是2017年2月3日上映的动画电影,改编自伊藤计...

天空充满细菌

一项新研究表明,在蓝天之下,在白云的附近,有一条微生物高速公路隐藏在人们视线之外。根据 9 月 9 ...