人工智能引发诸多怪异现象后，微软调整了 Bing 聊天机器人限制

对于任何关注微软必应聊天机器人传奇的人来说，这都是一段疯狂的旅程。在 2 月 7 日备受瞩目的首次亮相后，它和它的直接竞争对手谷歌的 Bard 几乎立刻就被用户无数的古怪反应、误导性陈述、不道德后果和不正确信息所掩盖。然而，在仅仅一周的封闭测试之后，微软似乎已经通过悄悄实施一些交互限制来推迟其“搜索新时代”，这些限制对必应的早期测试者产生了重大影响。

正如多个消息来源（包括许多忠实的 Bing subreddit 用户）所强调的那样，微软似乎已于周五对候补名单上的 ChatGPT 集成搜索引擎进行了三项更新：用户每天的消息限制为 50 条，每次对话只允许 5 次交流，并且不讨论 Bing AI 本身。

[相关：不，人工智能聊天机器人（仍然）不具备感知能力。]

尽管微软的新官僚作风乍一看似乎微不足道，但这些简单的变化极大地限制了用户在与 Bing 机器人讨论时可以生成的内容。例如，对话限制为 5 条消息，这大大削弱了绕过聊天机器人的护栏的可能性，而护栏旨在防止仇恨言论和骚扰等棘手话题。以前，黑客可以通过用户巧妙的一系列命令、问题和提示来完成，但现在事实证明，在 5 个或更少的动作中完成这些操作要困难得多。

类似地，禁止 Bing 谈论“自己”将在理论上限制其生成意外情感操纵答案的能力，用户可能会误解这些答案是人工智能感知的早期阶段（剧透：事实并非如此）。

许多用户对 Bing 的受限版本感到遗憾，并认为正是这些怪异之处才让它如此有趣和多功能。Roblox的产品经理 Peter Yang 上周末评论道：“有趣的是，人工智能本应提供答案，但人们却只想感受到联系。”但如果有一件事已经被反复证明，那就是专注的修补匠一直在寻找破解最新技术的方法。

[相关：人工智能能够进行对话并不意味着它很聪明。]

在 2 月 15 日的博客更新中，微软承认人们使用 Bing 进行“社交娱乐”是“新技术为我们未曾完全预见到的事物找到产品市场契合点的一个很好的例子”。

然而，最近的在线文件记录表明，该公司早在 2022 年 11 月就已提前注意到支持 ChatGPT 的 Bing 中存在问题。正如科技博主 René Walter 和纽约大学心理学和神经科学教授 Gary Marcus 所强调的那样，微软四个多月前在印度公开测试了 Bing AI 版本，并收到了同样令人不安的投诉，这些投诉至今仍在网上出现。