谷歌暂停 Gemini 图像工具，原因是人工智能在种族问题上产生“不准确”

面对偏见指控，谷歌本周被迫暂停其生成式人工智能模型 Gemini 的图像生成部分。此次暂停是因为用户强烈反对该模型，他们批评该模型过于强调种族多样性，有时甚至以牺牲准确性为代价。在谷歌暂停服务之前，Gemini 被发现制作了种族多样化的二战时期纳粹、维京战士、美国开国元勋和其他历史上的白人人物的画像。

谷歌在周三发布的一份声明中表示，Gemini 的图像生成功能“未达标”，并表示“正在努力立即改进此类描述”。随后，谷歌于周四上午全面暂停了对图像生成工具的访问，并表示将很快发布新版本的模型。周四上午，当PopSci测试该服务时，Gemini 拒绝生成任何图像，而是表示：“我们正在努力改进 Gemini 生成人物图像的能力。我们预计该功能将很快恢复，并将在发布更新时通知您。”截至本文撰写时，Gemini 仍处于瘫痪状态。当联系到谷歌寻求置评时， PopSci提到了其最新声明。

双子座形象代言引投诉

本月初，谷歌正式开始在 Gemini 中推出其图像生成工具，但本周，围绕其非白人形象的争议愈演愈烈。X（前身为 Twitter）上的用户开始分享一些截图，据报道，Gemini 在被要求描绘白人时，会生成非白人形象。批评人士称，在其他情况下，Gemini 在被要求生成以白人为主的历史群体形象时，似乎过度表现了非白人形象。

这些帖子很快引起了右翼社交媒体圈的关注，他们认为美国政界和商界的多元化和公平举措过于严厉，对此提出了异议。在更极端的圈子里，一些账户利用人工智能生成的图像煽动了一种毫无根据的阴谋论，指责谷歌故意试图将白人从双子座图像结果中剔除。

谷歌如何回应有关 Gemini 的争议？

尽管围绕 Gemini 的争议似乎源于批评者认为谷歌没有足够重视白人，但研究人工智能的专家早就表示，人工智能模型恰恰相反，经常低估非白人群体。在相对较短的时间内，在文化偏见数据集上训练的人工智能系统积累了重复和强化对少数族裔刻板印象的历史。安全研究人员表示，这就是为什么构建人工智能模型的科技公司需要负责任地过滤和调整其产品的原因。图像生成器和更广泛的人工智能模型通常会重复或强化从其训练数据中吸收的文化偏见数据，研究人员有时将其称为“垃圾进，垃圾出”。

2022 年，OpenAI 推出 DALL-E 图像生成器后，出现了类似的情况，当时人工智能研究人员批评该公司涉嫌强化古老的性别和种族刻板印象。例如，当时用户要求 DALL-E 生成“建筑工人”或“空乘人员”的图像，结果分别只显示男性和女性。OpenAI 此后对其模型进行了调整，试图解决这些问题。

[相关：这位程序员兼诗人认为我们应该如何应对人工智能的种族偏见]

谷歌可能试图通过 Gemini 来抵消一些偏见，但在此过程中进行了过度修正。谷歌在周三发布的一份声明中表示，Gemini 确实产生了广泛的人群，并表示“这总体上是一件好事，因为世界各地的人都在使用它。”谷歌没有回应PopSci 的置评请求，该请求要求提供有关 Gemini 为何会产生有问题的图像结果的信息。

目前尚不清楚是什么原因导致 Gemini 生成了这些图像，但一些评论员提出了一些理论。周四，在接受Platformer 的Casey Newton 采访时，前 OpenAI 信任与安全负责人 Dave Willner 表示，平衡 AI 模型如何负责任地生成内容非常复杂，而谷歌的方法“并不优雅”。Wilners 怀疑这些失误至少部分归因于谷歌工程师缺乏资源来正确处理细微差别。

[相关： OpenAI 的 Sora 让我们向 AI 深渊迈进了一大步]

Gemini 产品高级总监 Jack Krawczyk 在 X 上的一篇文章中进一步阐述了这一点，他表示，该模型对非白人人物的描述反映了该公司的“全球用户群”。Krawczyk 为谷歌对代表性和偏见的态度进行了辩护，他说这符合该公司的核心 AI 原则，但他表示，历史提示方面可能存在一些“不准确之处”。

“我们意识到 Gemini 在某些历史图像生成描述中存在不准确之处，我们正在努力立即修复这个问题，”Krawczyk 在现已被限制的账户上表示。“历史背景对他们来说有更多细微差别，我们将进一步调整以适应这一点，”他补充道。

Krawczyk 和谷歌都没有立即回应用户的批评，他们称种族代表选择超出了严格的历史人物范围。值得一提的是，这些说法应该持一定程度的怀疑态度。一些用户表达了不同的体验，而PopSci无法复制这些发现。在某些情况下，其他记者声称 Gemini 拒绝为要求人工智能创建黑人或白人图像的提示生成图像。换句话说，最近几天用户对 Gemini 的体验似乎差异很大。

谷歌周四发布了一份单独的声明，称其暂停了 Gemini 的图像生成功能，以解决“不准确”和明显不成比例的表述问题。该公司表示将“很快”重新发布该模型的新版本，但并未透露具体日期。

尽管目前还不清楚是什么原因导致 Gemini 生成了导致其暂时中止的内容，但谷歌在网上受到的反击对于人工智能制造商来说可能不会很快结束。