新型芯片可支持人工智能时代所需的数十亿次计算

新型芯片可支持人工智能时代所需的数十亿次计算

当前的人工智能热潮需要大量的计算能力。目前,大部分计算能力来自 Nvidia 的 GPU,即图形处理单元——该公司占据了人工智能芯片市场的 90% 左右。在本周的一份声明中,该公司旨在通过其新发布的下一代 GH200 Grace Hopper 超级芯片平台来扩大其主导地位。

虽然大多数消费者更可能将 GPU 视为游戏 PC 或视频游戏机的组件,但它们的用途远不止娱乐领域。它们旨在并行执行数十亿次简单计算,这一功能不仅使它们能够以高帧率渲染高清计算机图形,而且还使它们能够挖掘加密货币、破解密码以及训练和运行大型语言模型 (LLM) 和其他形式的生成式 AI。实际上,GPU 这个名字已经过时了——它们现在是功能极其强大的多用途并行处理器。

Nvidia 本周在计算机图形大会 SIGGRAPH 上发布了其下一代 GH200 Grace Hopper 超级芯片平台。该公司在一份新闻稿中解释道,这些芯片“旨在处理世界上最复杂的生成式 AI 工作负载,涵盖大型语言模型、推荐系统和矢量数据库”。换句话说,它们的设计目的是尽可能快速高效地完成这些 AI 系统所需的数十亿次微小计算。

GH200 是 H100 的继任者,H100 是 Nvidia 最强大(且需求量极大)的当前一代 AI 专用芯片。GH200 将使用相同的 GPU,但内存为 141 GB,而 H100 的内存为 80 GB。GH200 还将提供其他几种配置,包括结合两个 GH200 的双配置,它将提供“比当前一代产品多 3.5 倍的内存容量和 3 倍的带宽”。

[相关:人工智能广阔世界的简单指南]

GH200 专为数据中心而设计,例如由 Amazon Web Services 和 Microsoft Azure 运营的数据中心。NVIDIA 创始人兼首席执行官黄仁勋在新闻稿中表示:“为了满足对生成式 AI 的不断增长的需求,数据中心需要具有特殊需求的加速计算平台。新的 GH200 Grace Hopper 超级芯片平台通过卓越的内存技术和带宽实现了这一点,以提高吞吐量,能够连接 GPU 以聚合性能而不会受到影响,并且服务器设计可以轻松部署到整个数据中心。”

GH200 之类的芯片对于训练和运行(或“推理”)AI 模型都很重要。当 AI 开发人员创建新的 LLM 或其他 AI 模型时,会使用数十或数百个 GPU 来处理大量训练数据。然后,一旦模型准备就绪,就需要更多 GPU 来运行它。额外的内存容量将允许每个 GH200 运行更大的 AI 模型,而无需将计算工作负载分散到多个不同的 GPU 上。不过,对于“巨型模型”,可以将多个 GH200 与 Nvidia NVLink 结合使用。

尽管 Nvidia 是 AI 芯片领域最主要的参与者,但它并不是唯一一家生产 AI 芯片的制造商。AMD 最近宣布推出具有 192 GB 内存的 MI300X 芯片,它将与 GH200 正面交锋,但它是否能够占据相当大的市场份额还有待观察。还有许多初创公司正在生产 AI 芯片,例如 SambaNova、Graphcore 和 Tenstorrent。谷歌和亚马逊等科技巨头也开发了自己的芯片,但它们在市场上同样落后于 Nvidia。

Nvidia 预计采用其 GH200 芯片的系统将于明年第二季度上市。该公司尚未透露这些系统的价格,但考虑到 H100 的售价超过 4 万美元,它们不太可能用于许多游戏 PC。

<<:  为什么医学工程师要将金子纹在单个细胞上

>>:  通用汽车正在将更多电动汽车改造成备用电源

推荐阅读

美国宇航局为何选择未经测试的导弹来发射双子座计划?

发射 NASA 双子座任务的泰坦二号火箭可以说是一个异类。它是发射阿波罗时代任务的仅有的两枚非沃纳·...

最后一次机会,以 179.97 美元的价格购买这款顶级石墨烯加热夹克和移动电源

这个假期,使用 Gamma 石墨烯加热夹克 + 加热移动电源套装,保证您亲人(或您自己)在户外活动时...

为什么你的狗需要嗅闻这个世界

你对你的宠物了解多少?《宠物通灵者》收集了你对 BFF(永远的动物朋友)的一些想法,并将它们与现代科...

在争夺王位的战斗中,印度跳蚁缩小并重新长出大脑

皇室地位是令人垂涎的。它如此令人垂涎,以至于印度跳蚁会缩小大脑、扩大卵巢,只为获得一席之位。蚁群是一...

X-15 火箭飞机的起源

X-15 火箭飞机有时被认为是第一艘太空船,其设计初衷并非是将人类送入太空。当时,新技术的发展速度很...

吃转基因食品可以吗?科学家说可以。

PopSci 将在 9 月份重新学习如何进食。尽管我们天生喜欢大吃大喝,但我们距离最佳饮食还存在很...

世界上最小的内存位仅使用 12 个原子来存储数据

世界上最小的磁性数据存储单元仅由 12 个原子组成,将整个字节压缩到仅 96 个原子中,这在信息存储...

这辆小型 NASA 探测车可以征服沙地和陡峭的山丘

在探索火星平原六年后,美国宇航局的精神号火星车于 2009 年 5 月因卡在古谢夫陨石坑附近的软土中...

复制这株常见的办公室植物

您的小隔间可以放些绿色植物。办公室里放些植物可以让员工感到快乐和放松。许多室内植物还可以充当天然空气...

对《Over Drive》进行全面回顾!自行车比赛有着怎样的激情故事?

《Overdrive》:自行车与青春的热血故事■作品概要《Overdrive》是改编自安田武在讲谈...

Chibi Airin 的悠闲日常生活 - 在治愈与欢笑之间找到完美的平衡

Chibi Airin 的轻松日常生活 - 评论和推荐《Chibi Airin的悠闲日常生活》是一部...

你的工具箱正在召唤

电动工具是为专业用户和典型应用而设计的。制造商和 DIY 爱好者经常会偏离常规,而您就不再拥有最适合...

与 Microsoft 365 分手——获取物有所值的终身版本

很抱歉在这个美好的一天带来坏消息,但你在 Microsoft 365 上浪费了钱。我会证明这一点,然...

极限救援的危险艺术

扮演鸭子并不像听起来那么容易——用救援游泳者的术语来说,鸭子是练习的牺牲品,而阿拉斯加南部海岸的海水...

可穿戴设备可以追踪你的紫外线照射量,但预防皮肤癌并不那么简单

科学证据明确:紫外线照射会导致皮肤癌。然而,根据皮肤癌基金会的数据,这种恶性肿瘤的发病率正在上升。技...