经过人工智能训练的人工智能会产生大量乱码垃圾

经过人工智能训练的人工智能会产生大量乱码垃圾

众所周知,OpenAI 和 Google 提供的大型语言模型需要大量的训练数据才能发挥作用。这些模型的最新版本已经覆盖了现有互联网的大部分内容,这导致一些人担心可能没有足够的新数据来训练未来的迭代。一些业内知名人士,如 Meta 首席执行官马克·扎克伯格 (Mark Zuckerberg) 提出了解决这一数据困境的方案:只需在旧的 AI 输出上训练新的 AI 系统即可。

但新的研究表明,蚕食过去的模型输出将很快导致人工智能产生一连串胡言乱语,并最终导致所谓的“模型崩溃”。在一个例子中,研究人员向人工智能输入了一段关于教堂建筑的无害段落,但这段文字在几代人之后迅速退化。最后,最“先进”的模型只是不断重复短语“黑尾长耳兔”。

本周《自然》杂志发表的一项研究对人工智能训练人工智能的场景进行了测试。研究人员制作了自己的语言模型,最初将原始的、人类生成的文本作为输入。然后,他们又制作了九代模型,每代模型都使用前一代模型生成的文本输出进行训练。最后一代的最终结果是毫无意义的、听起来超现实主义的胡言乱语,与原文毫无关系。随着时间的推移和一代又一代的迭代,研究人员表示,他们的模型“被自己对现实的投射所毒害”。

人工智能模型在自我训练越多就越容易忘记含义

研究人员将这种人工智能似乎自我崩溃的奇怪案例称为“模型崩溃”,这是一种退化过程,可以以早期和晚期的形式出现。在早期,当距离原始训练数据几代的人工智能模型似乎忘记了原始文本中的异常值或罕见内容时,崩溃就开始发生。这会导致最有可能的输出变得越来越普遍。这在现实世界中会成为一个问题,因为它可能导致少数派观点或表达的减少。表现出早期崩溃迹象的法学硕士可能会呈现一种缺乏多样性、千篇一律的现实版本。

在崩溃的后期,事情变得更加奇怪。在最后几代中,用模型训练的模型与原始训练数据相差甚远,以至于它们开始忘记初始训练的关键方面并完全失去情节。正是在这个阶段,模型开始产生完全毫无意义的胡言乱语。当这种情况发生时,研究人员表示,模型对自己先前输出的“不加区分”的自我蚕食“会导致最终模型出现不可逆转的缺陷”。

研究人员声称,对于使用自身数据训练的大型模型来说,这种连锁效应和最终的模型崩溃是不可避免的。值得注意的是,这项研究专门关注语言模型,并没有考虑如果多模态模型(如图像和视频生成器)使用自身数据进行训练会发生什么。这项研究还关注使用自身数据进行训练的模型会发生什么。目前还不清楚如果一个模型(比如 Meta 的模型)使用 OpenAI 生成的输出进行训练会发生什么。

保存原始人类文本可以避免崩溃

现实世界模型崩溃的前景并非不可想象。目前,无数网站都在运营,其中的文章和博客文章完全由法学硕士生成。在尽快构建新模型的竞赛中,许多由人工智能生成的垃圾最终可能会渗入训练集,这并非不可想象。

解决无意中将 AI 生成的内容纳入训练集的问题的一个可能方法是鼓励跨平台制定水印标准,明确标记内容的真实性以及内容是否由机器生成。Google、Adobe 和大型科技公司正试图通过一种特殊的“内容凭证”徽章来实现这一点,他们正试图将其作为内容来源和真实性联盟 (C2PA) 的一部分进行标准化。

但这只适用于图像。使用现有的检测软件,人工智能生成的文本也更难加水印,甚至更难准确识别。更现实的方法可能要求人工智能开发人员严格审查材料,以查找人工智能操纵的迹象,并可能向信誉良好的人力来源付费,以获得使用其高质量数据进行训练的机会。如果没有这些人类训练数据的保​​障,互联网就有被人工智能浪潮淹没的风险。没有人希望这样。

<<:  巴黎奥运会的紫色跑道由碎贻贝和蛤壳制成

>>:  奥运泳装的演变:从羊毛“服装”到弹力比赛服

推荐阅读

天王星是否受到过大的撞击而旋转到一边?

与其他巨行星一样,天王星拥有一组光环和十几颗卫星,使其本身看起来就像一个微型太阳系。但与它的超大邻居...

比萨斜塔之所以屹立不倒,原因也是一样的

地震、墨索里尼、两百年的建筑灾难——比萨斜塔历经千辛万苦,却依然屹立不倒。欧洲工程师团队的最新研究揭...

奇怪的冬季天气让科学家们把目光投向北极

去年 10 月,美国国家海洋和大气管理局的专家预测美国今年冬天气候相当温和。尽管他们谨慎地对冲风险(...

《寒蝉鸣泣之时 Gou》第 14 集及后续剧集深度评价与观感

《寒蝉鸣泣之时》的魅力与深度:第 14 集后的进展和全方位信息《寒蝉鸣泣之时:豪》是一部于 2021...

这些热机器人将帮助我们在冰冷的卫星上寻找生命

围绕木星和土星运行的卫星远离太阳的温暖。大多数卫星没有大气层,许多卫星被厚达数英里的冰壳覆盖。它们也...

土耳其设计新型装甲侦察兵用于对抗化学武器

没人想成为第一个发现战场上使用化学武器的人,但如果必须有人来做这个任务,那么新型 Par 化学生物放...

比太阳系更古老的陨石含有生命的关键成分

几十年来,天文学家一直在思考“胚种论”这一理论,即地球上的生命是由陨石带到地球上的。这一概念曾被认为...

Spotify 希望了解你听音乐时的身体状况

想想你听的音乐和播客,以及它们如何影响你的情绪。如果流媒体音频内容让你更快乐,那么你并不孤单,证据就...

自燃比你想象的更容易

关于自燃的事实很容易被遗忘。这主要是因为人体自燃是阴谋论者们的最爱。关于人体突然着火的报道往往会忽略...

我们能让地铁防洪吗?

图片来源:MTA 纽约市交通局 / Marc A. Hermann / CC-By-2.0 7 月 ...

那不是血,是真菌渗出的汁液

出血齿菌看起来像一个可怕的森林犯罪现场。这种蘑菇叫做Hydnellum peckii 也被称为“魔鬼...

你能用人类的粪便给火星农作物施肥吗?

如果人类真的在火星定居,获取可靠的食物将是他们面临的主要挑战之一。犹他州立大学教授布鲁斯·布格比 (...

通过这款应用学习一门新语言,这样我就可以去旅行了

多年来,世界一直在呼唤我,而我最终将通过游历欧洲甚至可能移居欧洲来回应。羡慕吗?加入我吧。我正在通过...

使用这款售价不到 200 美元的双无人机套装拍摄令人惊叹的航拍画面

Ninja Dragon 是一个因突破消费级无人机所能实现的极限而备受推崇的品牌,它已将两款顶级无人...

《开运大弁小藏》的魅力与评价:个性鲜明的角色带来治愈与欢笑

《祝你好运,小便当》:从厕所开始的幽默和治愈的世界《开运大便秘室》于2008年10月4日至2009年...