研究人员试图预先想象人工智能可能做的最糟糕的事情

科幻小说中充斥着邪恶的机器人，从《太空堡垒卡拉狄加》中的赛昂人，到《银翼杀手》中复仇心切的复制人，再到标志性的毁灭人类的终结者。然而，这些都是出于善意而制造的机器人，其可怕的暴力行为是其设计中的意外后果，而不是其明确的目的。

如果人工智能不是因为人类的愚蠢而造成伤害，而是因为人类明确地将其设计用于恶意目的，那会怎样？一项由埃隆·马斯克部分资助的新研究探讨了机器故意作恶的可能性。

这篇短文的标题是《不道德的研究：如何创造恶意的人工智能》，由路易斯维尔大学的 Roman V. Yampolskiy 和未来学家 Federico Pistono 共同撰写，探讨了人们使用一个邪恶程序会造成什么样的危害。为什么？原因与 DARPA 要求人们在自家后院发明新武器的原因类似：最好现在通过和平研究发现威胁，而不是等到以后被用于激进攻击时再去适应它。

Pistono 和 Yampolskiy 发现了什么？他们列出的可能制造出恶意人工智能的团体很熟悉：军队（开发网络武器和机器人士兵以实现统治地位）、政府（试图利用人工智能建立霸权、控制人民或推翻其他政府）、企业（试图实现垄断，通过非法手段摧毁竞争对手）；此外还包括黑帽黑客、恶棍、末日邪教和罪犯等。人工智能可能来自许多地方。据作者称，未经监督编写的代码或旨在让尽可能少的人看到的闭源程序都是制造有害人工智能而不事先警告世界的方法。

好吧，但是恶意人工智能到底做了什么导致了问题呢？Pistono 和 Yampolskiy 说，它们削弱了人类劳动力：

自动化取代工作早已成为人们所担心的问题。事实上，人们对此早有预料，这是捷克戏剧《机器人》的核心情节，该剧于 1921 年将“机器人”一词引入英语。

Pistono 和 Yampolskiy 还担心人工智能会带来哪些后果？如果它不夺取生产资料，它就会通过宣传政变接管政府，通过谨慎的资金接管立法机构，或者通过新设计的病原体或现有的人类核武器库消灭人类。换句话说，一个积极恶意的人工智能对人类所做的最坏的事情，并不比人类之前已经做过或威胁要对自己做的事情更糟糕。

这并不是一幅令人欣喜的未来图景，但它至少能给我们带来一丝冰冷的、金属般的安慰：我们不必再惧怕机器，因为我们本不应该惧怕自己。

[来自《新科学家》]