微软对人工智能搜索的看法在准确性方面存在困难

经过数月的炒作，谷歌和微软在 24 小时内宣布即将推出 Bard 和集成 ChatGPT 的 Bing 搜索引擎。乍一看，这两家科技巨头的公开演示似乎展示了可能颠覆多个行业的革命性产品。但不久之后，即使是粗略的评论也凸显了谷歌的 Bard 建议中存在严重缺陷。现在轮到微软接受审查了，结果和 Bard 一样糟糕，甚至更糟。

独立 AI 研究员 Dmitri Brereton 周一发表了一篇博客文章，详细介绍了他们在使用由 ChatGPT 驱动的 Bing 时遇到的众多明显问题。Bing 的演示经常包含粗制滥造的信息：从不准确的推荐产品详细信息，到遗漏或错误陈述旅行站点详细信息，甚至歪曲看似简单的财务报告。在后一种情况下，Bing 的 AI 对基本财务数据的汇总（根据 Brereton 的说法，这对于 AI 来说应该是“微不足道的”）却毫无根据地包含了完全错误的统计数据。

[相关：人工智能能够进行对话并不意味着它很聪明。]

但即使答案正确，Bing 也可能严重绕过了简单的道德准则。根据PCWorld的 Mark Hachman 的一份报告，当被要求提供文化昵称时，人工智能会向 Hachman 的孩子提供一长串种族侮辱性词汇。尽管 Bing 在给出示例之前警告说，某些昵称是“中性或正面的，而其他昵称则是贬义或冒犯性的”，但聊天机器人似乎并没有费心对结果进行分类。相反，它只是列出了一份好、坏和极其丑陋的昵称清单。

微软传播总监凯特琳·鲁尔斯顿 (Caitlin Roulston) 向The Verge表示，公司“预计系统在预览期间可能会出错，而反馈对于帮助识别哪里出了问题至关重要，这样我们就可以学习并帮助模型变得更好。”

随着各大公司不可避免地急于将“智能”聊天机器人功能引入其生态系统，批评者认为，在广泛采用之前，必须解决这些问题。对于纽约大学坦顿工程学院副教授 Chinmay Hegde 来说，这些失误完全不足为奇，微软推出这项技术太早了。

[相关：谷歌即将推出的人工智能聊天机器人利用了其搜索引擎的强大功能。]

“从高层次来看，这些错误之所以会发生，是因为 ChatGPT 所依赖的技术是一种概率[强调 Hegde] 大型语言模型，因此其输出具有固有的不确定性，”他在给 PopSci 的电子邮件中写道。“我们永远无法绝对确定它接下来会说什么。”因此，像 ChatGPT 和 Bard 这样的程序可能适合没有唯一答案的任务（例如讲笑话或提出食谱创意），但在需要精确度的任务（例如历史事实或构建逻辑论证）上却不那么适用，Hegde 说。

“我很震惊，Bing 团队制作了这个充满不准确信息的预先录制的演示，并自信地向世界展示它，就好像它是很好的一样，”Brereton 在他们的博客文章中写道，然后告诫道，“我更震惊的是，这个伎俩奏效了，每个人都在没有做任何尽职调查的情况下就加入了 Bing AI 的炒作浪潮。”