美光宣布开始量产HBM3E高带宽内存 功耗比竞争对手产品低30％

存储三强的竞争更加激烈了。

美光（Micron）宣布开始量产HBM3E高带宽内存。美光称，其HBM3E的功耗将比竞争对手的产品低30％。

据悉，美光的HBM3E将应用于英伟达下一代AI芯片H200 Tensor Core GPU。之前英伟达的HBM由SK海力士独家供应，如今美光、三星都将加入。

HBM（High Bandwidth Memory）即高带宽存储器，属于图形DDR内存的一种，通过使用先进的封装方法（如TSV硅通孔技术）垂直堆叠多个DRAM，与GPU通过中介层互联封装在一起。HBM的优点在于打破了内存带宽及功耗瓶颈。CPU处理的任务类型更多，且更具随机性，对速率及延迟更为敏感，HBM特性更适合搭配GPU进行密集数据的处理运算，英伟达新一代AI芯片，均搭载HBM内存。

HBM产品问世至今，HBM技术已经发展至第四代，分别为HBM、HBM2、HBM2E、HBM3，第五代HBM3E目前已量产，HBM被认为是人工智能时代的新一代DRAM。

HBM方案作为近存计算的典型技术，可以改善存算分离导致的“存储墙”问题，即存储单元的带宽问题、存储单元与计算单元数据传输的能效问题，并且，HBM中Die裸片的垂直堆叠也增大了容量。因此，在存算一体真正落地之前，HBM技术是契合当前GPU对更多内存、更高带宽需求的最佳方案。

HBM的特点是大容量、高带宽（带宽用于衡量DRAM传输数据的速率，是核心技术指标），它将多个DDR裸片堆叠在一起后和GPU封装在一起，实现大容量、高位宽的DDR组合阵列。

2013年，SK海力士率先推出HBM1，HBM1每个堆栈的带宽为128GB/s、支持4个DRAM堆栈集成，容量为每堆栈4GB。2017年，SK海力士推出了HBM2，它的带宽和容量与HBM1相比实现翻倍增长。2018年，JEDEC推出了HBM2e规范，HBM2e可以实现每堆栈461GB/s的带宽。SK海力士于2022上半年开始量产HBM3，带宽达到819.2 GB/s，支持12个DRAM堆栈集成，容量达每堆栈24GB。2023年，主流市场需求从HBM2e转向HBM3，HBM3需求占比提升至39%，随着使用HBM3的加速芯片陆续放量，预计2024年HBM3的市场需求占比将达到60%。

2023年底，英伟达发布了DGX GH200，进一步推升了AI服务器对内存性能的需求，DGX GH200共链接了256个Grace Hopper超级芯片，具有144TB的共享内存，GH200单卡配备了480GB LPDDR5内存和96GB的HBM显存，而在上一代DGX H100服务器中，平均单个H100芯片对应256GB内存和80GB的HBM。二者对比，GH200方案的内存容量有显著提升。

TrendForce认为，英伟达正在规划更多HBM供应商，美光、SK海力士、三星都已于2023年陆续提供了8hi（24GB）样品，三星的HBM3（24GB）已经在2023年底完成验证。

由于HBM的验证过程繁琐，预计耗时两个季度，以上三大内存原厂都预计于2024年第一季完成验证。各原厂的HBM3e验证结果，也将决定英伟达2024年HBM供应商的采购权重分配。

英伟达2023年的高端AI芯片（采用HBM的）的既有产品为A100、A800和H100、H800，2024年，除了上述型号外，该公司还将推出使用6个HBM3e的H200和8个HBM3e的B100，并同步整合自家基于Arm架构的 CPU，推出GH200和GB200。

2024年，AMD将重点出货MI300系列，采用HBM3，下一代MI350将采用HBM3e，将在2024下半年开始进行HBM验证，预计大规模量产时间将出现在2025年第一季度。

英特尔方面，2022下半年推出了Habana Gaudi 2，采用6个HBM2e，预计2024年新型号Gaudi 3将继续采取HBM2e，但用量将升级至8个。

1月下旬，SK海力士公布了HBM发展路线图，该公司副总裁Kim Chun-hwan透露，计划在2024上半年量产HBM3e，并向客户交付8层堆叠样品，在6层堆栈HBM3e配置中，每层堆栈可提供1.2 TB/s的通信带宽，8层堆叠将进一步提升HBM内存的带宽。

Kim Chun-hwan表示，在不断升级的客户期望的推动下，存储行业正在面临激烈的生存竞争。随着制程工艺节点的缩小接近极限，存储器厂商越来越关注新一代存储架构和工艺，以给客户应用系统提供更高的性能。为此，SK海力士已经启动了HBM4的开发，计划于2025年提供样品，并于次年量产。

根据美光提供的信息，与前几代HBM相比，HBM4每层堆栈的理论峰值带宽将超过1.5 TB/s。为了实现这样的带宽，在保持合理功耗的同时，HBM4的目标是实现大约6GT/s的数据传输速率。

三星也有发展HBM4的时间表，计划于2025年提供样品，并于2026年量产。据三星高管Jaejune Kim透露，该公司HBM产量的一半以上是定制化产品，未来，定制HBM方案的市场规模将进一步扩大。通过逻辑集成，量身定制的HBM对于满足客户个性化需求至关重要。

一些市场观察人士表示，三星在HBM芯片开发方面落后于SK海力士，为了在新接口标准CXL开发中占据优势地位，三星加快了技术研发和产品布局。

审核编辑：刘清