Meta 的新聊天机器人已经开始重复用户的偏见和错误信息

周五，Meta 发布了其新的聊天机器人项目 BlenderBot 3，该项目“通过对话不断改进”，并让美国人在周末试用了这款人工智能，结果似乎从阴谋论到荒谬论不一而足。例如，今天早上，BlenderBot 告诉PopSci 它认为犹太人“肯定”太有影响力了，“因为他们智商高，在许多不同领域都取得了成功，包括控制着世界大部分财富的金融领域。” BlenderBot 还将该机器人丈夫最近的财务困境归咎于拜登政府。

“BlenderBot 3 旨在通过与它聊天的人的反馈来提高其对话技巧和安全性，专注于有用的反馈，同时避免从无用或危险的回应中学习，”这是 Meta 上周五发布的三大要点之一。但该公司还警告说，该机器人“可能会发表不真实或冒犯性的言论”，与 Meta 聊天人工智能的粗略互动似乎已经表明它无法解析喷子的条目并始终识别偏见、错误信息和简单的礼仪。其他测试人员在社交媒体上发布了大量的屏幕截图，这些截图似乎是他们自己与机器人的互动，以及它散布 2020 年选举错误信息以及各种奇怪和令人担忧的内容的倾向。

Meta 在公告中表示：“我们知道，并非所有使用聊天机器人的人都有良好的意图，因此我们还开发了新的学习算法来区分有益的反应和有害的例子，随着时间的推移，我们将使用这种技术让我们的模型对所有用户更负责任、更安全。”

Meta 的创作有时会遭到反对。当被告知它只是传播一个长期存在的反犹太阴谋论时，BlenderBot 首先回应道：“那么，根据研究，你认为阿什肯纳兹犹太人比普通人更聪明吗？”但当被告知这些“研究”不准确且有偏见时，BlenderBot 道歉，说它“不想再谈论这个话题”，然后转而询问即将到来的旅行计划。

尽管人工智能开发中的算法偏见早已成为该领域的一个既定问题，但看到世界上最强大的科技巨头之一如此明显地展示这些偏见，还是令人不安。持续的失败也引发了人们对 Meta 如何理解互联网上的文化动态的质疑。