人工智能引发诸多怪异现象后,微软调整了 Bing 聊天机器人限制

人工智能引发诸多怪异现象后,微软调整了 Bing 聊天机器人限制

对于任何关注微软必应聊天机器人传奇的人来说,这都是一段疯狂的旅程。在 2 月 7 日备受瞩目的首次亮相后,它和它的直接竞争对手谷歌的 Bard 几乎立刻就被用户无数的古怪反应、误导性陈述、不道德后果和不正确信息所掩盖。然而,在仅仅一周的封闭测试之后,微软似乎已经通过悄悄实施一些交互限制来推迟其“搜索新时代”,这些限制对必应的早期测试者产生了重大影响。

正如多个消息来源(包括许多忠实的 Bing subreddit 用户)所强调的那样,微软似乎已于周五对候补名单上的 ChatGPT 集成搜索引擎进行了三项更新:用户每天的消息限制为 50 条,每次对话只允许 5 次交流,并且不讨论 Bing AI 本身。

[相关:不,人工智能聊天机器人(仍然)不具备感知能力。]

尽管微软的新官僚作风乍一看似乎微不足道,但这些简单的变化极大地限制了用户在与 Bing 机器人讨论时可以生成的内容。例如,对话限制为 5 条消息,这大大削弱了绕过聊天机器人的护栏的可能性,而护栏旨在防止仇恨言论和骚扰等棘手话题。以前,黑客可以通过用户巧妙的一系列命令、问题和提示来完成,但现在事实证明,在 5 个或更少的动作中完成这些操作要困难得多。

类似地,禁止 Bing 谈论“自己”将在理论上限制其生成意外情感操纵答案的能力,用户可能会误解这些答案是人工智能感知的早期阶段(剧透:事实并非如此)。

许多用户对 Bing 的受限版本感到遗憾,并认为正是这些怪异之处才让它如此有趣和多功能。Roblox产品经理 Peter Yang 上周末评论道:“有趣的是,人工智能本应提供答案,但人们却只想感受到联系。”但如果有一件事已经被反复证明,那就是专注的修补匠一直在寻找破解最新技术的方法。

[相关:人工智能能够进行对话并不意味着它很聪明。]

在 2 月 15 日的博客更新中,微软承认人们使用 Bing 进行“社交娱乐”是“新技术为我们未曾完全预见到的事物找到产品市场契合点的一个很好的例子”。

然而,最近的在线文件记录表明,该公司早在 2022 年 11 月就已提前注意到支持 ChatGPT 的 Bing 中存在问题。正如科技博主 René Walter 和纽约大学心理学和神经科学教授 Gary Marcus 所强调的那样,微软四个多月前在印度公开测试了 Bing AI 版本,并收到了同样令人不安的投诉,这些投诉至今仍在网上出现。

<<:  想去火星旅行吗?以下是这次旅行可能需要的时间。

>>:  城市生存的能力取决于智能、可持续的建筑

推荐阅读

《骷髅人》的吸引力与评价:深度回顾

骷髅人——黑暗英雄的惊人写照2007年播出的电视动画《骷髅侠》改编自石森章太郎的原著,描绘了黑暗英雄...

Chuck Shimezo 的吸引力与评价:独特的世界观和深入的人物探索

查克·西米佐——一个关于冒险和成长的温馨小故事■作品概要《Chuck Shimezo》是日本动画于 ...

这些打折的家居配件让烹饪和清洁不再是一项苦差事

无论您是在与过时的吸尘器作斗争,还是在寻找一些全新的工具来简化厨房准备工作,在预算内找到优质的家居配...

评《元气少女的秘密之椰子蛋》:儿童动画的魅力与教育价值

《元气少女秘密的椰子蛋》:治愈儿童心灵的魔幻世界《元气少女的秘密的椰子蛋》是一部电视动画系列,于 2...

哈勃望远镜在“辐条季节”观测到土星环

祝土星人“辐条”季节快乐!美国宇航局的哈勃太空望远镜在土星春分期间拍摄了辐条季节的新图像,此时土星著...

最后机会:超级碗前以最低价购买 75 英寸索尼 4K 电视

酋长队和 49 人队正在努力为超级碗 LVIII 做准备。你也应该为你的超级碗派对做同样的事情,第一...

这种新型太阳帆可以让 NASA 更容易地观察太阳

长期以来,太阳能一直被世界各地视为飞行器的能源来源——如今,NASA 距离利用太阳能探索宇宙又近了一...

Nyuru Nyuru的呼吁和评论!! KAKUSEN-kun:不容错过的动漫体验

滑!! KAKUSEN-kun-滑溜溜的!!觉仙君概述《Nyuru Nyuru!! Kakusen-...

冰河时代人类可能使用长矛猎捕猛犸象

对于早期人类来说,捕猎巨型动物是生存的一部分。考古学家认为,尼安德特人可能捕猎过凶猛的穴狮,而一些早...

学习如何淘金,开启你的淘金时代

我第一次拿起淘金盘时,就知道自己会找到什么。当我们从停车场下车前往这个历史遗迹时,阿拉斯加费尔班克斯...

改变世界的四起实验室事故

事情的起因是明尼苏达州圣保罗的一个烧杯破碎。3M 化学家 Patsy Sherman 正在研究一种合...

彻底解析《团子三兄弟》的魅力与情感!什么是快速剧场体验?

《团子三兄弟:快剧场》——怀旧与新鲜感并存的经典动画概述《团子三兄弟:The Quick Thea...

一项新研究发现,每个人类睾丸都含有微塑料

根据发表在《毒理学科学》杂志上的一项研究,有害的微塑料不仅可在肺、血液和胎盘中检测到,还可在人类睾丸...

现在该检查一下你的手机运行的软件版本了

本文已更新。最初于 2019 年 6 月 16 日发表。当你把一部崭新的智能手机带回家后不久,你就会...

含水层可以储存可再生热能吗?

能源行业脱碳需要增加可再生能源发电量。然而,增加可再生能源发电量也带来了一些挑战,例如生产和需求之间...