2009 年奇点峰会：未来机器人霸主的十个未解问题

虽然我在奇点峰会上无疑学到了很多东西，但这次会议最大的好处是它没有回答的问题。关于奇点的未解决问题为我有限的知识储备提供了许多哲学素材，解决这些问题与我在峰会上听到的任何演讲一样令人兴奋。

为了结束我们对奇点峰会的报道，我将倒数十个最令人困扰的未解问题，这些问题与库兹韦尔的理论宝贝，即人类和人工智能的最终融合有关，并且我有兴趣听到你们所有人对这些仍未解释的未来方面的任何或所有这些方面的意见、问题或（希望）答案。

10. 只有一种意识或智慧吗？

奇点概念的先驱雷·库兹韦尔在演讲中将智能称为预测。智能的进化使得人类能够看到草原上的动物，并猜测它下一步会去哪里。显然，计算机在预测各种事件（棋局、天气、经济趋势等）方面已经超越了我们。

当然，我们知道，人们预测不同领域结果的能力（比如，我的女朋友是否会更喜欢这朵花或那种花）差异很大，因此它们实际上充当了不同形式的智力。

假设存在不同形式的智能，我们如何知道机器不会接受一种我们无法识别为智能的新智能？如果存在不同类型的智能，那么是否也会存在不同类型的意识？机器是否可能会获得一种我们无法识别的新意识，从而导致我们错过奇点？

9. 你将如何利用你的数字智能来杀死我们所有人？

会议上，许多人都在担心我们最终会死于机器人之手。但尽管如此，没有人真正解释过计算机程序是如何杀死我的。

它会入侵核导弹指挥部并发射所有核弹吗？它会撞毁所有飞机吗？难道我们不能切断电源吗？有人仍然需要向我解释我为什么要害怕一个没有实体存在的存在。

8. 你是“Tommy”吗？又聋又哑又瞎？

当第一个人工大脑上线时，它的第一个想法除了“天哪，我瞎了！”还能是什么呢？机器中的无形智能将存在，但严重缺乏感官。也许它可以看到和听到，但感觉不到？令人怀疑。一个无法感知的意识如何能不发疯？我会很生气，我想第一个人工智能也会很生气。这也导致……

7. 你有情绪吗？

人工智能会抑郁吗？第一个人工智能无疑会感到相当孤独。作为物种中的第一个（也是唯一的）成员，人工智能的发展和人际关系会受到怎样的影响？第一个数字意识可能像小镇高中里唯一的哥特孩子一样来到这个世界：孤立无援，无人同情。我可不想要这种拥有所有武器和经济工具的存在。

6. 人类与你所构建的人工智能的相似度是否比我们想象的还要高？

达尔莫尔人工智能研究所的哲学家尤尔根·施米德胡伯在演讲中指出，人类大脑对信息的压缩方式就像.zip文件一样，我们通过衡量所吸收的新信息量使我们能够进一步压缩信息，来区分无聊和兴趣。

我真的认为他对大脑如何处理来自我们个人经验扩展的新数据的描述很有道理。这让我想知道，我们的大脑到底有多像计算机？我们的大脑已经运行了各种软件，这导致生物学上相似的大脑产生了截然不同的个性。奇点的出现是否可能不是因为我们创造了类似于人脑的机器，而是因为我们发现了人脑天生就有多像计算机？

5. 编程对你的自由意志有多大影响？

在关于如何避免机器人末日的讨论中，一位又一位发言者强调，需要教会数字意识具有人类价值观。许多人想知道为什么我们不能直接编程让机器人不杀死我们？好吧，我们可能会这样做，但是一旦计算机程序实现了自我意识和自由意志，它们难道不能选择不遵循该编程吗？无论是节食还是一夫一妻制，人类总是避免遵循他们的编程。是什么让我们认为有意识的程序不会同样忽视其基本冲动？

4.你有潜意识吗？

如果人工智能思维与人类大脑一样复杂，这是否意味着它们将存在无法理解、控制或访问的区域？本我、自我和我们潜意识的其他元素是生物学的结果还是感知的必要组成部分？人工智能会有非理性的信念或心理问题吗？如果人工智能认为我们是他们的上帝，或者至少是他们的创造者，那么它是否有恋母情结？如果是这样，这也许可以解释为什么它试图杀死我们。

3. 你真的会帮助我们超越作为人类的那些不太愉快的方面吗？

任何看过互联网评论板的人都知道，每有一个人使用网络来拓宽视野并质疑自己的偏见，就会有十几个白痴使用同样的技术传播错误信息，称全球变暖是骗局，将奥巴马比作斯大林和希特勒，并要求其他白痴提供资金来帮助尼日利亚王子。除了赋予永生并使每个人都几乎无所不知之外，奇点是否还为人们传播人类数万年来追求的欲望、贪婪和仇恨提供了终极途径？忘记人工智能杀死我们吧，我仍然担心其他人类。