OpenAI 的 Sora 让我们向 AI 深渊迈进了一大步

写到 Sora 时，你很难不感到头脑发晕。但在昨天下午 OpenAI 意外宣布人工智能之后，我们有了迄今为止最好的证据，证明一个尚未监管、没有后果的科技行业想要向你推销什么：一套耗能的黑匣子人工智能产品，能够制作出超越合法性、隐私和客观现实界限的照片级逼真媒体。

除非有果断、深思熟虑和全面的监管，否则网络环境很可能会变得几乎无法辨认，甚至比以往任何时候都更加不可信。一旦超现实的猛犸象和纸艺海洋景观的“哇”效应逐渐消退，首席执行官 Sam Altman 的最新扭曲项目仍然令人担忧。

Sora（日语中意为“天空”）背后的概念并不是什么新鲜事物：它显然是一个能够仅根据用户的描述性文本输入生成高清视频的人工智能程序。简而言之：Sora 据称将为 DALL-E 提供支持的文本到图像扩散模型与称为 transformer 的神经网络系统相结合。尽管通常用于解析文本等大量数据序列，但 OpenAI 据称改编了 transformer 技术以类似的方式处理视频帧。

“显然”、“据报道”、“据称”。所有这些警告都是描述 Sora 时所必需的，因为正如《麻省理工技术评论》所解释的那样，OpenAI 只是在媒体同意等到公司正式宣布“征求外部专家的意见”之后才允许访问昨天的示例剪辑。即使 OpenAI确实预览了他们的最新实验，他们也没有发布技术报告或模型“实际工作”的后端演示。

这意味着，在可以想象的未来，没有一个外部监管机构、民选官员、行业监督机构或低级科技记者会知道 Sora如何渲染人工智能制作的最不可思议的媒体，Altman 的公司收集了哪些数据来训练其新程序，以及需要多少能源来为这些一分钟的视频渲染提供动力。OpenAI 选择与公众分享什么，你只能听天由命——这家公司的首席执行官曾多次警告说，人工智能带来的灭绝风险与核战争不相上下，但只有像他这样的人才能被信任拥有资金和资源来阻止这种情况的发生。

我们到达这里的速度和视频本身一样令人眼花缭乱。New Atlas昨天对这一情况进行了详尽的概括——OpenAI 的样本剪辑绝不完美，但仅仅在 9 个月内，我们就从人工智能威尔·史密斯吃意大利面的“喜剧恐怖片”变成了近乎逼真的高清视频，描绘了拥挤的城市街道、灭绝的动物和虚构的儿童幻想人物。九个月后，在可能是现代历史上最重要的美国总统选举之一的前夕，类似的技术会是什么样子。

一旦你克服了 Sora 的花招印象，就很难忽视其中令人不安的隐含意义。当然，这些视频是技术奇迹。当然，Sora 可以产生创新、有趣甚至有用的结果。但如果有人用它来产生除了“创新”、“有趣”或“有用”之外的任何东西，那会怎样？人类比任何生成式人工智能程序都更聪明。到目前为止，破解这些东西只需要一些奉献精神、耐心和利用技术获取恶意收益的愿望。

OpenAI 等公司承诺，他们目前正在制定安全协议和行业标准，以防止不良行为者利用我们的新技术世界——他们继续通过 Sora 等项目不顾一切地进入这个未知领域。然而，他们甚至在实施最基本的保障措施方面也惨遭失败：Deepfakes 滥用人体，学区利用 ChatGPT 默许法西斯图书禁令，事实与虚构之间的界限继续模糊。

[相关：生成式人工智能可能在 2024 年面临最大的法律考验。]

OpenAI 表示，目前还没有公开发布 Sora 的计划，他们正在进行红队测试以“评估危害或风险的关键领域”。但除非出现任何形式的监管阻力，否则 OpenAI 可能会尽快推出 Sora。

OpenAI 在昨天的声明中表示：“Sora 为理解和模拟现实世界的模型奠定了基础，我们相信这一能力将成为实现（通用人工智能）的重要里程碑”，再次明确提到了该公司的目标是创造出与人类几乎没有区别的人工智能。

Sora，一个理解和模拟现实世界（至少是它剩下的部分）的模型。