观看一位科技亿万富翁与他的人工智能克隆人对话

亿万富翁 LinkedIn 联合创始人 Reid Hoffman 最近发布了一段视频“采访”，采访对象是他的新数字化身 Reid AI。Reid AI 建立在定制 GPT 的基础上，该 GPT 经过了 Hoffman 二十年来的书籍、文章、演讲、采访和播客的训练，利用语音和视频深度伪造技术创建了一个数字克隆，能够近似其源对象的举止和对话语气。在超过 14 分钟的时间里，你可以看到两位 Hoffman 分别深情地和冷漠地凝视着科技行业不可思议的内心世界。通过这种方式，观众看到的并不是真正的 Hoffman 所说的“变得更好、更人性化的方法”，而是一条通往误导、危险、不道德和空洞未来的道路。

许多人可能会对将自己会说话的动画 AI 化身释放到这个世界的想法感到不寒而栗，但这位科技乌托邦“昨日之城”投资者对此却非常兴奋。根据 4 月 24 日的一篇博客文章，他发现整个前景如此“有趣且发人深省”，事实上，他最近与生成 AI 视频公司 Hour One 和 AI 音频初创公司 11ElevenLabs 合作，以实现这一目标。（如果后者的名字听起来很熟悉，那是因为 11ElevenLabs 的产品是诈骗者今年早些时候滥用来制作那些音频深度伪造拜登自动电话的产品。）

在连续数月展示他的数字克隆后，霍夫曼终于在上周发布了一段他和“Reid AI”之间的视频对话（经过大量剪辑）。据报道，这款定制的 GPT-4 聊天机器人经过深度伪造动画制作，其尖端成果在霍夫曼身上得到了怎样的训练？这是一个很有意义的问题，在观看了超现实、尴尬且偶尔不卫生的模拟互动后，这个问题很难回答。

“我为什么要接受数字版的自我采访？”霍夫曼在视频开头提出这个问题。首先，这显然是为了针对一系列潜在受众群体总结他的一本书：世界上最聪明的人、5 岁儿童、 《宋飞传》粉丝和克林贡人。虽然霍夫曼似乎喜欢随后的每一个Blitzscaling封装（尤其是“最聪明的人”），但它们听起来都像是来自 ChatGPT 提示——从技术上讲，它们确实是。这里的区别在于，这些单词不仅仅是一个文本答案，而是在（仍然明显是人造的）视频渲染之上叠加了霍夫曼的声音近似。

霍夫曼在兴奋之余，与许多有影响力的科技行业人物一样，再次暴露了他对生成式人工智能工作原理的根本误解。OpenAI 的 GPT 等技术，无论如何添加视觉和音频功能，都无法理解。当人工智能回应“谢谢”或“我认为这是一个很好的观点”时，它们实际上并没有感受到感激或思考任何事情。生成式人工智能将句子视为代码行，每个字母或空格后面都跟有下一个字母或空格，很可能是下一个字母或空格。这可以改编成对话音频并配音为视频角色，但这不会改变底层功能。它只是收到了新的符号输入，影响了基本上相当于超强自动更正系统的东西。即使它的语言设置为克林贡语，就像 Reid AI 曾经提供的那样。

因此，当 Reid AI 警告霍夫曼可能会得到错误答案时，“因为我误解了你提供的信息，或者我没有完全理解你的问题”，霍夫曼并没有停下来向观众解释上述任何事实。相反，他转向了下一个谈话要点，通常是推销他的书或 LinkedIn。

[相关：一通深度伪造的“乔·拜登”自动电话告诉选民在初选期间待在家里。]

与此同时，Reid AI 的视觉组件据说是为了模拟霍夫曼的许多谈话习惯和队列。从 Reid AI 的表现来看，这些行为主要归结为“用力点头”、“用力敲击以说明观点”和“挖鼻孔”等生硬的尝试。正如New Atlas指出的那样，在这样一个明显经过压缩和编辑的视频中加入 10:44 的片段是一个奇怪的怪癖——也许是为了说明人类的一些更尴尬、更亲和的特质。如果是这样的话，它几乎不会转移人们对霍夫曼两人所说的更荒谬和令人不安的情绪的注意力。

Reid AI 阐述了技术自由主义的陈词滥调，旨在培育“促进创新的框架”。霍夫曼反复表示，任何有关偏见、隐私、劳动力和数字所有权的担忧都只是“从消极的方面开始，而没有意识到所有积极的方面”。这个数字克隆重复了平淡无奇、毫无创意的方式来美化霍夫曼的 LinkedIn 页面，比如添加“个人风格”，比如有趣而多彩的标题图片。

但最令人担忧的时刻是当霍夫曼认为“每个人都应该问自己，‘我能做些什么来帮忙？’”让像数字化身这样的人工智能变得更加普遍时。他甚至将当前的技术时代等同于欧洲采用蒸汽机，这使得它“成为整个世界的主导力量”。（当然，他和里德人工智能都不承认工业革命所涉及的其他工具——即建立在数百万被剥削和奴役人口的劳动之上的殖民主义制度。）

霍夫曼表示，里德人工智能的未来迭代将“扩大我的能力范围，扩大我能做的事情范围”。这是一种非常有说服力的情绪——暗示像霍夫曼这样的人毫不犹豫地抹去克隆自我和真实自我之间的任何界限。至少，霍夫曼已经找到了至少一项里德人工智能可以为他处理的任务。

一位 LinkedIn 用户在他的公告帖子评论中问他：“我很好奇想知道其他人对如何减轻冒充以及由这种用例引起的所有其他类型的风险并实现‘负责任的人工智能’的看法。”

“好问题......这是 Reid AI 的答案，”霍夫曼回应道，并附上了一个新的头像剪辑的链接。