美国立法者称人工智能永远不应该能够发射核弹

美国立法者称人工智能永远不应该能够发射核弹

上周,众议员 Ted Lieu (D-CA) 与参议员 Edward Markey (D-MA) 和众多其他两党共同提案人共同提出了《阻止自主人工智能发射核弹法案》。该法案的目标就像它的名字一样直截了当:确保人工智能永远不会对美国核战略拥有最终决定权。

“尽管我们都在努力应对人工智能加速发展的速度,但人工智能的未来及其在社会中的作用仍不明朗。作为国会议员,我们的职责是负责任地预见未来,保护子孙后代免受潜在的灾难性后果,”刘议员在该法案的公告中表示,并补充道,“在发射核武器方面,人工智能永远无法取代人类的判断。”

他并不是唯一一个这么认为的人——哈佛法学院国际人权诊所共同撰写的 2021 年人权观察报告指出,“机器人缺乏人道对待人类所必需的同情心、同理心、怜悯和判断力,它们无法理解人类生命的内在价值。”

[相关:这款人工智能脑部扫描仪可以解释你的想法。]

一旦获得通过,该法案将合法化国防部《2022 年核态势评估》中现有的程序,该评估指出“在所有情况下,美国都将保持人员‘知情’,以便采取一切关键行动,告知和执行总统启动和终止使用核武器的决定”。此外,根据该法案的公告,国防部表示,任何联邦资金都不能用于在没有“有意义的人为控制”的情况下通过自动化系统发射核弹。

这项拟议立法的出台正值生成式人工智能(包括 ChatGPT 等聊天机器人)的力量日益成为公众讨论的一部分之时。但刘云并没有忽视“有趣的聊天机器人反应”和“对人类的潜在生存威胁”之间的超现实范围。他告诉PopSci ,他当然从未想过他的公民责任会包括制定立法来避免天网情景。

作为一名自称“正在康复中的计算机科学专业学生”,刘说他对人工智能程序现在所能实现的功能感到惊讶。“语音识别现在相当神奇。面部识别现在也相当神奇,尽管对于肤色较深的人来说,识别不太准确,”他指的是长期记录的算法偏见模式。

然而,自从去年 OpenAI 的 GPT-4 等生成式人工智能程序发布以来,刘云飞就开始意识到其可能带来的危害。

[相关: “人工智能教父”离开谷歌,公开谈论迅速崛起的技术的危险。]

“它正在创建信息并预测情景,”他谈到现有技术时说道。“这引发了不同的担忧,包括我的观点,即人工智能无论变得多么聪明,都不应该对核武器进行操作控制。”

刘认为,开始讨论人工智能监管至关重要,以减少三大后果:第一,虚假信息和其他“对社会有害”内容的泛滥。第二是控制人工智能,虽然它不会对人类的生存构成威胁,但“仍然可以直接杀死你”。他提到了 2022 年 11 月旧金山发生的多车相撞事故,该事故造成多人受伤,据称是由一辆特斯拉汽车在其备受争议的自动驾驶模式下造成的。

他说:“当你的手机出现故障时,它不会以每小时 50 英里的速度行驶。”

最后,刘云说,“人工智能确实可以摧毁世界”。他认为,《阻止自主人工智能发射核弹法案》至少在某种程度上可以提供帮助。本质上,如果该法案成为法律,人工智能系统仍然可以提供有关核事件的分析和战略建议,但最终决定权将牢牢掌握在人类手中。

[相关:战术核武器的简短而可怕的历史。]

展望未来,刘表示,由于国会“没有足够的带宽或能力来监管每个应用中的人工智能”,因此需要采取更严格的监管方法来处理人工智能问题。他愿意接受由联邦机构商定的一套人工智能风险标准,或者可能成立一个专门负责生成和未来高级人工智能的独立机构。周四,拜登政府公布了向旨在监测和监管人工智能发展的新研究中心提供 1.4 亿美元资金的计划。

当被问及是否担心社会面临新的“人工智能军备竞赛”时,刘承认“肯定存在这种可能性”,但他指出,目前存在核条约。“是的,存在核武器军备竞赛,但目前还不是全面军备竞赛。因此,不进行全面的人工智能军备竞赛也是有可能的,”刘说。

“各国都在关注这一问题,希望他们能够齐心协力,共同商定‘有些事情我们不会让人工智能去做。’”

<<:  世界上压力最大的职业者的应对建议

>>:  美国加密货币公司可能很快就会因高昂的能源使用而纳税

推荐阅读

2 月 4 日前订购,即可在情人节当天赠送这款促销的创新型柯达扫描仪

数字媒体已经占领了我们的世界,但我们中的许多人仍然有成堆的旧照片和底片渴望被保存和重现。今年情人节,...

《乖乖鸭》(1967年版)的号召力与评价:回顾大家的歌唱杰作

好小鸭 - 1967 年版的诉求与评论1967年在NHK教育电视台(现NHK电子电视台)播出的《善良...

一只鹳被一根 30 英寸长的长矛刺穿,飞越数千英里才回到家

本周你学到的最奇怪的事情是什么?好吧,不管是什么,我们保证如果你听PopSci的热门播客,你会得到一...

为什么你的宠物可能需要血糖监测仪

这种被称为连续血糖监测仪(CGM)的小型医疗传感器最初是为了追踪糖尿病患者的血糖水平而开发的。但最近...

加密货币成为拜登总统新行政命令的焦点

拜登总统周三发布行政命令,指示政府机构评估与“货币和支付系统的未来”相关的可能政策和法规,其中包括加...

如何将手机用作网络摄像头

市场上有一些不错的廉价网络摄像头,但你可以自己动手,用手机代替。这需要一点设置,但现代智能手机无需额...

亚马逊夏季促销期间,Carhartt 服饰(包括史上最棒的 T 恤)可享受 25% 折扣

你可能会惊讶于 T 恤的质量对你享受夏天的能力有多大的影响。现在,亚马逊以 25%(或更多)的折扣出...

你应该关注北极新臭氧空洞的五个理由

科学家在一篇新论文中报告称,去年冬天北极上空大气持续寒冷,导致臭氧层出现移动变形空洞。它就像我们在学...

毛茸茸的潜水服可以让你保持温暖

忘记光滑的潜水服吧——皮毛大衣也许有一天能帮助潜水员在水下保持温暖。海豚和鲸鱼依靠厚厚的脂肪在冷水中...

最适合科学迷的 5 所派对学校

选择合适的大学似乎是你一生中最重要的决定。而选择正确的专业和课程只是成功的一半。事实上,对于许多学生...

研究人员开发出一种新的超科学方法来了解卷发

卷发或卷曲头发的正确护理方法可能令人困惑不已,尽管市场上有更多品牌专注于不同发质,但绝大多数头发研究...

名侦探柯南特别篇夏日怪盗小子祭——透彻解析引人入胜的诡计与感人结局

名侦探柯南特别版夏日怪盗小子节 - 引人入胜的特别版的完整故事名侦探柯南系列多年来凭借其复杂的故事情...

使用这款可定制的 DIY 浴缸托盘,尽享时尚泡浴

对于很多人来说,在辛苦工作一天后泡个温水澡是一种放松身心的方式。但不幸的是,洗澡时阅读、看视频或品一...

《网球王子:Another Story-过去与未来的信息》的魅力与评价

网球王子:另一个故事 - 过去与未来的信息 - 评论与推荐《网球王子:Another Story-过...

马达加斯加物种不再以极快的速度进化

马达加斯加拥有种类繁多的动物,尽管它只占世界陆地面积的 1%,但却拥有世界上 3% 的动植物物种,其...