新型芯片可支持人工智能时代所需的数十亿次计算

新型芯片可支持人工智能时代所需的数十亿次计算

当前的人工智能热潮需要大量的计算能力。目前,大部分计算能力来自 Nvidia 的 GPU,即图形处理单元——该公司占据了人工智能芯片市场的 90% 左右。在本周的一份声明中,该公司旨在通过其新发布的下一代 GH200 Grace Hopper 超级芯片平台来扩大其主导地位。

虽然大多数消费者更可能将 GPU 视为游戏 PC 或视频游戏机的组件,但它们的用途远不止娱乐领域。它们旨在并行执行数十亿次简单计算,这一功能不仅使它们能够以高帧率渲染高清计算机图形,而且还使它们能够挖掘加密货币、破解密码以及训练和运行大型语言模型 (LLM) 和其他形式的生成式 AI。实际上,GPU 这个名字已经过时了——它们现在是功能极其强大的多用途并行处理器。

Nvidia 本周在计算机图形大会 SIGGRAPH 上发布了其下一代 GH200 Grace Hopper 超级芯片平台。该公司在一份新闻稿中解释道,这些芯片“旨在处理世界上最复杂的生成式 AI 工作负载,涵盖大型语言模型、推荐系统和矢量数据库”。换句话说,它们的设计目的是尽可能快速高效地完成这些 AI 系统所需的数十亿次微小计算。

GH200 是 H100 的继任者,H100 是 Nvidia 最强大(且需求量极大)的当前一代 AI 专用芯片。GH200 将使用相同的 GPU,但内存为 141 GB,而 H100 的内存为 80 GB。GH200 还将提供其他几种配置,包括结合两个 GH200 的双配置,它将提供“比当前一代产品多 3.5 倍的内存容量和 3 倍的带宽”。

[相关:人工智能广阔世界的简单指南]

GH200 专为数据中心而设计,例如由 Amazon Web Services 和 Microsoft Azure 运营的数据中心。NVIDIA 创始人兼首席执行官黄仁勋在新闻稿中表示:“为了满足对生成式 AI 的不断增长的需求,数据中心需要具有特殊需求的加速计算平台。新的 GH200 Grace Hopper 超级芯片平台通过卓越的内存技术和带宽实现了这一点,以提高吞吐量,能够连接 GPU 以聚合性能而不会受到影响,并且服务器设计可以轻松部署到整个数据中心。”

GH200 之类的芯片对于训练和运行(或“推理”)AI 模型都很重要。当 AI 开发人员创建新的 LLM 或其他 AI 模型时,会使用数十或数百个 GPU 来处理大量训练数据。然后,一旦模型准备就绪,就需要更多 GPU 来运行它。额外的内存容量将允许每个 GH200 运行更大的 AI 模型,而无需将计算工作负载分散到多个不同的 GPU 上。不过,对于“巨型模型”,可以将多个 GH200 与 Nvidia NVLink 结合使用。

尽管 Nvidia 是 AI 芯片领域最主要的参与者,但它并不是唯一一家生产 AI 芯片的制造商。AMD 最近宣布推出具有 192 GB 内存的 MI300X 芯片,它将与 GH200 正面交锋,但它是否能够占据相当大的市场份额还有待观察。还有许多初创公司正在生产 AI 芯片,例如 SambaNova、Graphcore 和 Tenstorrent。谷歌和亚马逊等科技巨头也开发了自己的芯片,但它们在市场上同样落后于 Nvidia。

Nvidia 预计采用其 GH200 芯片的系统将于明年第二季度上市。该公司尚未透露这些系统的价格,但考虑到 H100 的售价超过 4 万美元,它们不太可能用于许多游戏 PC。

<<:  为什么医学工程师要将金子纹在单个细胞上

>>:  通用汽车正在将更多电动汽车改造成备用电源

推荐阅读

HBO Max 和 Discovery Plus 将于 2023 年合并为一家流媒体服务

正在进行的流媒体大战即将进入新的战役阶段,观众的眼光将会发生很大的变化。在昨天与投资者举行的财报电话...

概念与原型:飞行船

世界上最快的帆船 l'Hydroptère 的建造团队正在设计一款新船型,以打破另一项重大赛...

在飞机上喝酒对身体有害

长途国际航班为数不多的安​​慰之一就是免费酒水,对吧?不,根据德国航空航天中心航空航天医学研究所的一...

Phantom Ray 无人机首次飞行,搭载在运载 747 的航天飞机上

圣路易斯——波音公司最新的间谍无人机“幻影射线”周一首次试飞,搭载了一架用于运送航天飞机的 747 ...

人工鸟巢可为濒危鸟类在新海上风电场附近提供家园

一家大型海上风电场供应商刚刚在英格兰东海岸完成了三座大型人工筑巢结构 (ANS) 的建设。这三座大型...

如何管理你的数字稍后阅读列表——趁还来得及

我们大多数人都有某种系统来保存我们最终想要阅读的在线文章。也许你会收藏推文、使用 Instapape...

科学家们正在对树木进行湿树皮比赛,以了解冰暴的影响

冰冻的树枝是研究冰暴对森林影响的一部分。Lindsey Rustad Lindsey Rustad ...

地球和月球的水来自同一个地方吗?

自从过去几年一系列航天器证实月球上存在丰富的水资源以来,科学家们一直想知道水是如何来到月球的。水是来...

飓风哈维袭击德克萨斯州的力度比预期的还要大。以下是您需要了解的信息。

此帖子已更新。科珀斯克里斯蒂海军航空站关闭,直至另行通知。海军已下令疏散所有非必要的现役军人。德克萨...

这款热门应用提供大脑训练练习,目前正在促销

每周去健身房锻炼几次,锻炼肌肉,这是很常见的做法,但你也应该锻炼大脑。毕竟,大脑是人体最复杂的器官(...

政府无人机将向草原土拨鼠发射接种疫苗的 M&M 巧克力豆

“我们如何才能为濒危的雪貂接种疫苗?”美国鱼类与野生动物官员在一次会议上一定想知道这个问题。在有史以...

《Chokotto Sister》的魅力与评价:推荐点详尽说明

“Chokotto姐妹”:圣诞奇迹和日常温暖《Chokotto Sister》于 2006 年播出,...

Android 12 上线第一天要利用的 7 个基本功能

谷歌早在 2021 年 5 月就宣布了 Android 12,此后一直提供该软件的测试版,同时继续为...

《花开伊吕波》的魅力与评价:动人的故事与美丽的画面的融合

《花开伊吕波》的号召力与评价2011年开播的电视动画《花开伊吕波》是由PAWORKS创作并制作的原创...

这是一个停止修剪草坪的好理由

世界各地的蜜蜂数量因栖息地丧失和杀虫剂使用而急剧下降。但城镇内的绿地可以为蜜蜂提供急需的避难所。如果...