新型芯片可支持人工智能时代所需的数十亿次计算

新型芯片可支持人工智能时代所需的数十亿次计算

当前的人工智能热潮需要大量的计算能力。目前,大部分计算能力来自 Nvidia 的 GPU,即图形处理单元——该公司占据了人工智能芯片市场的 90% 左右。在本周的一份声明中,该公司旨在通过其新发布的下一代 GH200 Grace Hopper 超级芯片平台来扩大其主导地位。

虽然大多数消费者更可能将 GPU 视为游戏 PC 或视频游戏机的组件,但它们的用途远不止娱乐领域。它们旨在并行执行数十亿次简单计算,这一功能不仅使它们能够以高帧率渲染高清计算机图形,而且还使它们能够挖掘加密货币、破解密码以及训练和运行大型语言模型 (LLM) 和其他形式的生成式 AI。实际上,GPU 这个名字已经过时了——它们现在是功能极其强大的多用途并行处理器。

Nvidia 本周在计算机图形大会 SIGGRAPH 上发布了其下一代 GH200 Grace Hopper 超级芯片平台。该公司在一份新闻稿中解释道,这些芯片“旨在处理世界上最复杂的生成式 AI 工作负载,涵盖大型语言模型、推荐系统和矢量数据库”。换句话说,它们的设计目的是尽可能快速高效地完成这些 AI 系统所需的数十亿次微小计算。

GH200 是 H100 的继任者,H100 是 Nvidia 最强大(且需求量极大)的当前一代 AI 专用芯片。GH200 将使用相同的 GPU,但内存为 141 GB,而 H100 的内存为 80 GB。GH200 还将提供其他几种配置,包括结合两个 GH200 的双配置,它将提供“比当前一代产品多 3.5 倍的内存容量和 3 倍的带宽”。

[相关:人工智能广阔世界的简单指南]

GH200 专为数据中心而设计,例如由 Amazon Web Services 和 Microsoft Azure 运营的数据中心。NVIDIA 创始人兼首席执行官黄仁勋在新闻稿中表示:“为了满足对生成式 AI 的不断增长的需求,数据中心需要具有特殊需求的加速计算平台。新的 GH200 Grace Hopper 超级芯片平台通过卓越的内存技术和带宽实现了这一点,以提高吞吐量,能够连接 GPU 以聚合性能而不会受到影响,并且服务器设计可以轻松部署到整个数据中心。”

GH200 之类的芯片对于训练和运行(或“推理”)AI 模型都很重要。当 AI 开发人员创建新的 LLM 或其他 AI 模型时,会使用数十或数百个 GPU 来处理大量训练数据。然后,一旦模型准备就绪,就需要更多 GPU 来运行它。额外的内存容量将允许每个 GH200 运行更大的 AI 模型,而无需将计算工作负载分散到多个不同的 GPU 上。不过,对于“巨型模型”,可以将多个 GH200 与 Nvidia NVLink 结合使用。

尽管 Nvidia 是 AI 芯片领域最主要的参与者,但它并不是唯一一家生产 AI 芯片的制造商。AMD 最近宣布推出具有 192 GB 内存的 MI300X 芯片,它将与 GH200 正面交锋,但它是否能够占据相当大的市场份额还有待观察。还有许多初创公司正在生产 AI 芯片,例如 SambaNova、Graphcore 和 Tenstorrent。谷歌和亚马逊等科技巨头也开发了自己的芯片,但它们在市场上同样落后于 Nvidia。

Nvidia 预计采用其 GH200 芯片的系统将于明年第二季度上市。该公司尚未透露这些系统的价格,但考虑到 H100 的售价超过 4 万美元,它们不太可能用于许多游戏 PC。

<<:  为什么医学工程师要将金子纹在单个细胞上

>>:  通用汽车正在将更多电动汽车改造成备用电源

推荐阅读

这些食肉植物是欺骗大师

植物一次又一次地进化出捕食动物的能力。从马达加斯加到北卡罗来纳州,不同种类的植物都想出了如何在营养贫...

史上最大海底电缆将把冰岛丰富的地热能输送到欧洲其他地区

冰岛希望利用其剧烈的火山活动,正在考虑建造世界上最大的海底电缆,以便向其他欧洲国家出售地热能。如果成...

加州水资源枯竭但没人知道原因

奥罗维尔湖位于萨克拉门托以北,是加州第二大水库。2014 年底,NASA 科学家发现,加州需要 11...

售价 50 美元的 P80 袖珍手电筒,让您在掌中体验强大的照明

这款袖珍型手电筒专为满足现代探险家、专业人士和日常用户的需求而设计,重新定义了便携式光源的功能。P8...

恶魔城第四季回顾和评论

恶魔城第四季详细评论与推荐概述《恶魔城》是一部在 NETFLIX 上发行的动画剧集,第四季于 202...

Goal Zero Yeti 1000X 电站在亚马逊上降价近 300 美元

夏天到了,露营季节到了。这意味着是时候盘点一下你需要升级的所有户外配件了。长周末必备品应该包括一种即...

我们对美味碳水化合物的热爱可能可以追溯到 80 万年前

我们的古老 DNA 可能塑造了我们对面包、意大利面、米饭和其他碳水化合物的热爱。我们早就知道,人类携...

彻底评论《小鬼Q太郎》的“跳出来!大烘焙任务”!新荣版的魅力何在?

《小鬼Q太郎:跳出来!烧饼大作战》的魅力与评价概述《鬼怪Q太郎:飞吧!鬼怪大作战》是改编自藤子不二...

评《金鱼姬》:宫崎骏的魔幻动人世界

悬崖上的金鱼姬 - 悬崖上的金鱼姬■ 公共媒体剧院■ 原创媒体动漫原创■ 发布日期2008 年 7 ...

机动战士高达 AGE MEMORY OF EDEN 评论:追寻伊甸园的动人记忆

『机动战士高达 AGE MEMORY OF EDEN』~探索高达系列的新魅力机动战士高达 AGE M...

戴维·克洛科特的歌曲:全面回顾 NHK 的《大家的歌》杰作

戴维·克洛科特之歌:NHK历史动画的魅力1962 年 10 月在 NHK 教育电视台 (现为 NHK...

《马尔代夫》的吸引力与评价:深度评论

《摩尔迪弗》:一部以未来东京为背景的超级英雄动作片《Moldiver》于 1993 年以 OVA 形...

《骷髅人》的吸引力与评价:深度回顾

骷髅人——黑暗英雄的惊人写照2007年播出的电视动画《骷髅侠》改编自石森章太郎的原著,描绘了黑暗英雄...

不要错过 Greenworks 在 Prime Day 推出的电动割草机和工具的最后优惠

省下汽油,考虑购买一些电动工具。Greenworks 的割草机、吹叶机、电动工具、吸尘器、树篱修剪机...

“缓慢的水”可以改变西南地区,一次改变一堵小石墙

20 世纪 80 年代,当瓦勒·克拉克和约西亚·奥斯汀搬到亚利桑那州南部的埃尔科罗纳多牧场时,季节性...