甚至人工智能科学家也害怕超人类智能的想法

甚至人工智能科学家也害怕超人类智能的想法

1993 年,计算机科学家兼科幻小说作家 Vernor Vinge 预测,在三十年内,我们将拥有创造出超越人类的智能的技术。“不久之后,人类时代将终结,”Vinge 说道。

事实上,30 年后,人工智能创造的实体能够超越(至少与人类能力相当)的想法已不再是投机者和作家的专利。人工智能研究人员和技术投资者正在寻求所谓的通用人工智能 (AGI):一种能够在各种智力任务中达到人类水平的实体。一些研究人员现在认为,如果人类能够成功创造出通用人工智能,“人类时代的终结”将不再是一个模糊而遥远的可能性。

[相关:不,人工智能聊天机器人仍然没有感知]

未来学家经常称赞文奇推广了许多评论家所谓的“奇点”。他相信技术进步最终会催生出一个能力超越人类大脑的实体。它的引入将使世界变得面目全非——用文奇自己的话来说,这是一种“堪比地球上人类生命的兴起的变化”。

也许将奇点想象成一个强大的人工智能是最容易的,但文奇却用其他方式设想了它。生物技术或电子增强技术可能会使人类大脑变得更快、更聪明,比如将人类思维的直觉和创造力与计算机的处理器和信息访问结合起来,实现超人般的壮举。或者举一个更平凡的例子,想想普通智能手机用户拥有的超能力,足以让 1993 年的时空旅行者惊叹不已。

路易斯维尔大学计算机科学家罗曼·亚姆波斯基 (Roman Yampolskiy) 表示:“关键在于,一旦机器接管了科学和工程流程,其进步速度就会如此之快,你无法跟上。”

Yampolskiy 已经在自己的领域看到了这种未来的缩影,人工智能研究人员正在以极快的速度发表大量论文。“作为专家,你不再知道最先进的技术是什么,”他说。“它发展得太快了。”

什么是超人智能?

虽然文奇没有提出任何一条通往奇点的路径,但一些专家认为 AGI 是通过计算机科学实现奇点的关键。其他人则认为该术语是一个毫无意义的流行词。一般来说,它描述的是一种在任何智力任务中都能与人类表现相匹配的系统。

如果我们开发出通用人工智能,那么未来创造超人智能的大门就打开了。当应用于研究时,这种智能可以以惊人的速度产生自己的新发现和新技术。例如,想象一个比任何现实世界的计算机科学家都更好的假想人工智能系统。现在,想象一下这个系统反过来负责设计更好的人工智能系统。一些研究人员认为,结果可能是人工智能能力的指数级加速。

[相关:工程师终于窥视深度神经网络]

这可能会带来问题,因为我们并不完全理解为什么许多人工智能系统会以它们的方式行事——这个问题可能永远不会消失。Yampolskiy 的研究表明,我们永远无法可靠地预测 AGI 能够做什么。在 Yampolskiy 看来,如果没有这种能力,我们将无法可靠地控制它。他说,后果可能是灾难性的。

但预测未来很难,世界各地的人工智能研究人员在这个问题上意见远未统一。2022 年中,智库 AI Impact 调查了 738 名研究人员对奇点式情景发生可能性的看法。他们发现,33% 的人回答说这种命运“可能”或“很有可能”,而 47% 的人回答说“不太可能”或“不太可能”。

“我感觉这会让人们忽视真正重要的问题。”

Sameer Singh,计算机科学家

加州大学欧文分校的计算机科学家萨米尔·辛格 (Sameer Singh) 表示,由于缺乏对 AGI 和奇点的统一定义,因此很难对这些概念进行实证检验。“这些都是值得思考的有趣学术问题,”他解释道。“但从影响的角度来看,我认为社会上可能发生的事情远不止这一门槛。”

事实上,辛格担心,专注于可能的未来会掩盖人工智能的失败或愚蠢行为已经产生的真正影响。“当我听说资源流向 AGI 以及这些长期影响时,我觉得这会转移真正重要的问题,”他说。已经确定的是,这些模型可以产生种族主义、性别歧视和事实错误的结果。从法律角度来看,人工智能生成的内容经常与版权法和数据隐私法相冲突。一些分析师已经开始指责人工智能煽动裁员和取代工作岗位。

“谈论‘我们已经实现了这个科幻目标’比谈论事情的实际情况更令人兴奋,”辛格说。“这就是我的现状,我觉得我合作的很多社区成员也都处于这种状态。”

我们需要通用人工智能吗?

对人工智能未来的反应反映了社区在构建、微调、扩展和监控模型方面存在的诸多分歧之一。计算机科学先驱杰弗里·辛顿 (Geoffrey Hinton) 和约书亚·本吉奥 (Yoshua Bengio) 最近都表达了对他们认为正在失控的领域的遗憾和迷失方向。一些研究人员呼吁暂停开发比 GPT-4 更强大的人工智能系统六个月。

亚姆波斯基支持暂停的呼吁,但他认为半年、一年、两年或任何时间都不够。他的观点十分明确:“获胜的唯一方法就是不这么做。”

<<:  定制 Google Chrome 新标签页的 4 种方法

>>:  五角大楼希望改装车辆以实现自动驾驶

推荐阅读

一只孤独的海豚多年来一直向波罗的海呐喊

一只孤独的海豚在丹麦寒冷的海岸附近游动,它对着茫茫无边的海洋叽叽喳喳叫着,但没有人回应。这只 17 ...

对电影《宝可梦 最美好的祝愿:美洛埃塔的闪亮演奏会!》进行全面评论!全面讲解景点和刺激之处

宝可梦最美好的祝愿:美洛耶塔的闪亮演奏会 - 电影评论和详情■ 公共媒体剧院■ 原创媒体游戏■ 发布...

我们可能因为幸运而拥有伟大的大脑

人类和黑猩猩有着共同的祖先,但在 400 万至 600 万年前,它们分道扬镳,走上了不同的进化道路。...

《PROJECT ARMS 第 2 章》的魅力与评价:剧情更精进、人物更深刻

《PROJECT ARMS 第 2 章》:融合动作与戏剧的电视动画系列《PROJECT ARMS 第...

这款翻新的 MacBook Air 售价不到 250 美元,经济实惠

新款 MacBook Air 可能会让你的钱包比羽毛还轻,但如果你不用掏空银行账户就能买到一台,那会...

这款全新碳纤维发球杆可为您的高尔夫比赛提供更快的速度和更远的距离

大头一号木杆比高尔夫球袋中的任何其他球杆承受的冲击都大:其杆面击球时产生的重力约为 30,000 G...

类似蝙蝠的回声定位可以帮助这些机器人找到失踪的人

回声定位对蝙蝠和某些超级英雄来说是一项巨大的优势。通常,这种感觉通过大脑解读从附近环境反射回来的声波...

如何使用智能音箱改善睡眠

除了智能音箱可以做的其他所有事情(从天气预报到事实核查再到播放音乐),它还能帮助改善睡眠。例如,它可...

工作原理:地震仪

地震力学的基本原理很简单:岩石碎片沿着断层相互滑动,释放出被压抑的能量。部分能量向外扩散,形成震动地...

你不知道你有多么需要这些细菌

细菌被严重低估了。从农业到调味,这些微生物在某些方面都至关重要,你可能甚至没有意识到。本系列中还有另...

《蛙人秀:鹰爪秘密社团剧场版2-爱上我的黑乌龙茶》的魅力与评价

《秘密组织鹰爪 THE MOVIE 2 ~爱上我的黑乌龙茶~》的魅力与评价■作品概要《秘密社团鹰爪剧...

使用此蓝牙/红外遥控器更轻松地导航您的 Apple TV

遥控器总是在你最需要的时候消失,比如当你的伴侣睡着了,你需要调低音量,或者当你需要换台看你非常想看的...

《乌萨维奇》第一季的魅力与评价:独特的世界观和深刻的幽默

Usavich 第 1 季回顾及更多信息概述“Usavich”是一部电视动画系列,于 2011 年 ...

比特币在萨尔瓦多作为官方货币的推广之路并不平坦

据路透社报道,萨尔瓦多周二宣布将成为第一个采用比特币作为法定货币的国家。当地企业现在将接受比特币和美...

阿坤和他的女友:这部青春恋爱喜剧到底有何新魅力?

《阿坤与彼女》:短篇动画的魅力与深度《Akkun and Kanojo》是一部于 2018 年播出...