当前的人工智能热潮需要大量的计算能力。目前,大部分计算能力来自 Nvidia 的 GPU,即图形处理单元——该公司占据了人工智能芯片市场的 90% 左右。在本周的一份声明中,该公司旨在通过其新发布的下一代 GH200 Grace Hopper 超级芯片平台来扩大其主导地位。 虽然大多数消费者更可能将 GPU 视为游戏 PC 或视频游戏机的组件,但它们的用途远不止娱乐领域。它们旨在并行执行数十亿次简单计算,这一功能不仅使它们能够以高帧率渲染高清计算机图形,而且还使它们能够挖掘加密货币、破解密码以及训练和运行大型语言模型 (LLM) 和其他形式的生成式 AI。实际上,GPU 这个名字已经过时了——它们现在是功能极其强大的多用途并行处理器。 Nvidia 本周在计算机图形大会 SIGGRAPH 上发布了其下一代 GH200 Grace Hopper 超级芯片平台。该公司在一份新闻稿中解释道,这些芯片“旨在处理世界上最复杂的生成式 AI 工作负载,涵盖大型语言模型、推荐系统和矢量数据库”。换句话说,它们的设计目的是尽可能快速高效地完成这些 AI 系统所需的数十亿次微小计算。 GH200 是 H100 的继任者,H100 是 Nvidia 最强大(且需求量极大)的当前一代 AI 专用芯片。GH200 将使用相同的 GPU,但内存为 141 GB,而 H100 的内存为 80 GB。GH200 还将提供其他几种配置,包括结合两个 GH200 的双配置,它将提供“比当前一代产品多 3.5 倍的内存容量和 3 倍的带宽”。 [相关:人工智能广阔世界的简单指南] GH200 专为数据中心而设计,例如由 Amazon Web Services 和 Microsoft Azure 运营的数据中心。NVIDIA 创始人兼首席执行官黄仁勋在新闻稿中表示:“为了满足对生成式 AI 的不断增长的需求,数据中心需要具有特殊需求的加速计算平台。新的 GH200 Grace Hopper 超级芯片平台通过卓越的内存技术和带宽实现了这一点,以提高吞吐量,能够连接 GPU 以聚合性能而不会受到影响,并且服务器设计可以轻松部署到整个数据中心。” GH200 之类的芯片对于训练和运行(或“推理”)AI 模型都很重要。当 AI 开发人员创建新的 LLM 或其他 AI 模型时,会使用数十或数百个 GPU 来处理大量训练数据。然后,一旦模型准备就绪,就需要更多 GPU 来运行它。额外的内存容量将允许每个 GH200 运行更大的 AI 模型,而无需将计算工作负载分散到多个不同的 GPU 上。不过,对于“巨型模型”,可以将多个 GH200 与 Nvidia NVLink 结合使用。 尽管 Nvidia 是 AI 芯片领域最主要的参与者,但它并不是唯一一家生产 AI 芯片的制造商。AMD 最近宣布推出具有 192 GB 内存的 MI300X 芯片,它将与 GH200 正面交锋,但它是否能够占据相当大的市场份额还有待观察。还有许多初创公司正在生产 AI 芯片,例如 SambaNova、Graphcore 和 Tenstorrent。谷歌和亚马逊等科技巨头也开发了自己的芯片,但它们在市场上同样落后于 Nvidia。 Nvidia 预计采用其 GH200 芯片的系统将于明年第二季度上市。该公司尚未透露这些系统的价格,但考虑到 H100 的售价超过 4 万美元,它们不太可能用于许多游戏 PC。 |
天文学家发现了一个星系,它的超亮核心被称为类星体,其燃烧的能量是整个银河系的 100 倍。尽管理论早...
未来反派莫里亚蒂的完美异世界犯罪报告——异世界的犯罪与美学将于2024年夏季作为电视动画播出的《未来...
连续血糖监测仪最初设计用于帮助糖尿病患者跟踪和更好地管理血糖(又称“血糖”)。如今,并不是每个佩戴连...
上个月初,亚马逊宣布以 17 亿美元收购 iRobot,后者是广受欢迎且知名度极高的 Roomba ...
什么才是聪明?如果聪明的定义是拥有最大的大脑,那么抹香鲸(其头部重达 20 磅)就是地球上最聪明的生...
翡翠灰螟已肆虐美国 30 个州,毁坏公园、住宅和森林中的树木。六种灰树花中,有五种现已处于极度濒危状...
群青号角-赛马学校的梦想与青春故事■作品概要《群青之号角》是一部电视动画,于 2022 年 4 月 ...
“赤鱒”~大家的歌的名曲回顾《赤羽がそばに》是NHK《大家的歌》系列中最受欢迎的经典作品之一。这部于...
许多支持 WiFi 的设备在同时发送多张照片、联系人和视频时会不堪重负,导致传输速度缓慢。不过,如果...
“鲁尔曼的道路安全”——其作为安全路标的意义1998年9月14日上映的《鲁尔曼的道路安全》是一部以道...
“别再发出声音了!”第二季的号召力与评价“别再发出声音了!” 《第 2 季》是改编自漫画《Kono ...
上周五,随着亚特兰蒂斯号最后一次升空,我们告别了美国宇航局 30 年的航天飞机计划。无论是否实用,失...
《王獒丸》第16连载的魅力与评价《Ojarumaru》是犬丸凛原创的动画,这次要给大家详细介绍201...
冥王星表面一个神秘的凸起区域曾是火山喷发的场所,喷涌出大量冰。美国宇航局新视野号太空船拍摄的惊人图像...
《游啊游啊动物游泳大会》:昭和初期动画的魅力及其历史意义■作品概要《游啊游啊动物们的游泳比赛》是一部...