英伟达全球首发HBM3e 专为生成式AI时代打造
2023年8月8日，NVIDIA创始人兼CEO黄仁勋在计算机图形年会SIGGRAPH上发布了HBM3e内存新一代GH200 Grace Hopper超级芯片。这款芯片被黄仁勋称为“加速计算和生成式AI时代的处理器”，旨在用于任何大型语言模型，以降低推理成本。
与今年5月发布的GH200不同，新一代GH200芯片搭载了全球首款HBM3e内存，内存容量和带宽都有显著提高，专为加速计算和生成式AI时代而设计。
新版GH200芯片平台基于72核Grace CPU，配备480GB ECC LPDDR5X内存以及GH100计算GPU。此外，它还搭配着141GB的HBM3e内存，分为六个24GB的堆栈，并采用了6，144位的内存接口。尽管实际上NVIDIA安装了144GB的内存，但可用的内存容量为141GB。
借助全球最快的HBM3e内存，这款芯片的内存容量高达141GB，带宽每秒可达到5TB。每个GPU的容量比NVIDIA H100 GPU多出1.7倍，带宽比H100高1.55倍。
NVIDIA强调，新版GH200 Grace Hopper芯片使用了与原版相同的Grace CPU和GH100 GPU芯片，因此无需推出新的软件版本或步进。原版GH200和升级版GH200将共存于市场，后者将以更高的价格销售，因为它具备更先进的内存技术带来的更高性能。
NVIDIA表示，新版GH200旨在处理世界上最复杂的生成式AI工作负载，包括大型语言模型、推荐系统和矢量数据库，并将提供多种配置。预计新版GH200将于2024年第二季度投产。
编辑：黄飞
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
处理器
+关注
关注
68文章
18675浏览量
225463 -
NVIDIA
+关注
关注
14文章
4713浏览量
102191 -
gpu
+关注
关注
27文章
4537浏览量
127730 -
内存
+关注
关注
8文章
2828浏览量
73211 -
AI
+关注
关注
87文章
28027浏览量
265444 -
生成式AI
+关注
关注
0文章
441浏览量
351 -
HBM3
+关注
关注
0文章
73浏览量
100 -
HBM3E
+关注
关注
0文章
64浏览量
36
发布评论请先 登录
相关推荐
三星HBM3e获英伟达认证，加速DRAM产能转型
近日，三星电子在半导体领域再传捷报，其高频宽内存（HBM）产品HBM3e已成功通过全球图形处理与AI计算巨头英伟
三星电子否认HBM3e芯片通过英伟达测试
韩国新闻源NewDaily近日发布了一则报道，声称三星电子的HBM3e芯片已成功通过英伟达的产品测试，预示着即将开启大规模生产并向英伟达供货
三星否认HBM3E通过英伟达测试传闻
近期，有媒体报道称三星电子已成功通过英伟达（NVIDIA）的HBM3E（高带宽内存）质量测试，并预计很快将启动量产流程，以满足市场对高性能存储解决方案的迫切需求。然而，这一消息迅速遭到了三星电子的官方否认。
英伟达巨资预订HBM3E，力拼上半年算力市场
在全球AI芯片领域的激烈竞争中，英伟达以其卓越的技术实力和市场影响力，始终保持着领先地位。最近，这家AI芯片大厂再次展现出了其独特的战略眼光
传三星HBM3E尚无法通过英伟达认证
三星电子近期正积极投入验证工作，以确保其HBM3E产品能够顺利供应给英伟达。然而，业界传出消息，因台积电在采用标准上存在的某些问题，导致8层HBM3E产品目前仍需要进一步的检验。
三星电子HBM存储技术进展：12层HBM3E芯片，2TB/s带宽HBM4即将上市
据业内透露，三星在HBM3E芯片研发方面遥遥领先其他公司，有能力在2024年9月实现对英伟达的替代，这意味着它将成为英伟达12层
三星独家供货英伟达12层HBM3E内存
据最新消息透露，英伟达即将从今年9月开始大规模采购12层HBM3E内存，而这次供货的重任将完全由三星电子承担。这一消息无疑为业内带来了不小的震动。
AMD发布HBM3e AI加速器升级版，2025年推新款Instinct MI
目前，只有英伟达的Hopper GH200芯片配备了HBM3e内存。与现有的HBM3相比，HBM3e的速度提升了50%，单个平台可以达到10
SK海力士预计3月量产HBM3E，供货英伟达
近日，全球存储解决方案领导者SK海力士宣布，他们已成功完成了高性能HBM3E（High-Bandwidth Memory 3rd Generation Enhanced）的开发，并且已经通过了
英伟达大量订购HBM3E内存，抢占市场先机
英伟达（NVIDIA）近日宣布，已向SK海力士、美光等公司订购大量HBM3E内存，为其AI领域的下一代产品做准备。也预示着内存市场将新一轮竞争。
英伟达将于Q1完成HBM3e验证 2026年HBM4将推出
由于hbm芯片的验证过程复杂，预计需要2个季度左右的时间，因此业界预测，最快将于2023年末得到部分企业对hbm3e的验证结果。但是，验证工作可能会在2024年第一季度完成。机构表示，各原工厂的hbm3e验证结果将最终决定
预计英伟达将于Q1完成HBM3e验证 2026年HBM4将推出
由于hbm芯片的验证过程复杂，预计需要2个季度左右的时间，因此业界预测，最快将于2023年末得到部分企业对hbm3e的验证结果。但是，验证工作可能会在2024年第一季度完成。机构表示，各原工厂的hbm3e验证结果将最终决定
追赶SK海力士，三星、美光抢进HBM3E
电子发烧友网报道（文/黄晶晶）新型存储HBM随着AI训练需求的攀升显示出越来越重要的地位。从2013年SK海力士推出第一代HBM来看，HBM历经HB
SK海力士开发出全球最高规格HBM3E，向英伟达提供样品
该公司表示，HBM3E（HBM3的扩展版本）的成功开发得益于其作为业界唯一的HBM3大规模供应商的经验。凭借作为业界最大HBM产品供应商的经验和量产准备水平，SK海力士计划在明年上半年
黄仁勋甩出最强生成式AI处理器，全球首发HBM3e，比H100还快
在随后大约1小时20分钟的演讲中，黄仁勋宣布全球首发HBM3e内存——推出下一代GH200 Grace Hopper超级芯片。黄仁勋将它称作“加速计算和生成
工商网监
评论