0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

HBM内存:韩国人的游戏

AI芯天下 来源:AI芯天下 2023-06-30 16:31 次阅读

前言:

AI时代下,为满足海量数据存储以及日益增长的繁重计算要求,半导体存储器领域也迎来新的变革,HBM技术从幕后走向台前。

HBM技术之下,DRAM芯片从2D转变为3D,可以在很小的物理空间里实现高容量、高带宽、低延时与低功耗,因而HBM被业界视为新一代内存解决方案。


6c94f35e-1679-11ee-962d-dac502259ad0.png

HBM目前成为了韩国人的游戏

自2014年首款硅通孔HBM产品问世至今,HBM技术已经发展至第四代,分别是:

HBM(第一代)、HBM2(第二代)、HBM2E(第三代)、HBM3(第四代)。

HBM芯片容量从1GB升级至24GB,带宽从128GB/s提升至819GB/s,数据传输速率也从1Gbps提高至6.4Gbps。

目前,能够稳定量产HBM的厂家,只有韩国的三星和SK海力士。

伴随AI的快速繁荣,存储巨头们围绕HBM的竞争也迅速展开,但主角只有韩国企业。

2010年,三星就紧随SK海力士开始了HBM内存的研发。

并在2016年抢先SK海力士成功量产HBM2,将每个HBM堆栈容量提升至8GB。

此后又率先量产第三代HBM的青春版HBM3E。

2021年10月,一直紧咬三星的SK海力士又成功量产HBM3,重新夺回主动权。

2022年,全球50%的HBM出货来自SK海力士,40%来自三星,美光占10%。

至此,HBM彻底成为了韩国人的游戏。

虽然HBM目前的市场规模还不到整个存储芯片市场的1/10,也不乏其他技术竞争,但决定其能否普及的成本问题。

这恰恰却是三星和SK海力士最擅长解决的:依靠大规模生产能力快速降低成本,拉高其他公司参与竞争需要的投资门槛。

6d01f1ca-1679-11ee-962d-dac502259ad0.png

三星和SK海力士鏖战做大市场 总的来说,HBM的竞争还是在SK 海力士、三星以及美光之间展开。

从技术上先来看,SK海力士是目前唯一实现HBM3量产的厂商,并向英伟达大量供货,配置在英伟达高性能GPU H100之中,持续巩固其市场领先地位。

全球排名第一的服务器CPU公司英特尔在全新的第四代至强可扩展处理器当中也推出了配备SK海力士HBM的产品。

A100和H100的显存模块并没有采用常用的DDR/GDDR内存,而是HBM内存。

SK海力士提供了两种容量产品,一个是12层硅通孔技术垂直堆叠的24GB(196Gb);

另一个则是8层堆叠的16GB(128Gb),均提供819 GB/s的带宽。

此外,HBM3内存还内置了片上纠错技术,提高了产品的可靠性。

6d78f928-1679-11ee-962d-dac502259ad0.png

SK海力士在今年6月收到了英伟达对HBM3E样品的请求,并正在准备发货。

HBM3E是当前可用的最高规格DRAM HBM3的下一代,被誉为是第五代半导体产品。

SK海力士目前正致力于开发该产品,目标是在明年上半年实现量产。

目前该公司正在为今年下半年准备8Gbps HBM3E产品样品,并计划在明年上半年实现量产。

近日,该公司在全球首次实现垂直堆叠12个单品DRAM芯片,成功开发出最高容量24GB的HBM3 DRAM。

该产品容量较上一代HBM3 DRAM提升50%。SK海力士已向客户提供样品,正接受客户公司的性能验证。

6d95d82c-1679-11ee-962d-dac502259ad0.png

三星在去年技术发布会上发布的内存技术发展路线图中,显示HBM3技术已经量产,其单芯片接口宽度可达1024bit,接口传输速率可达6.4Gbps。

据业内消息人士周一透露,三星最近向客户交付了具有16 GB内存容量且能耗最低的 HBM3 产品样品。

目前,16GB是现有HBM3产品的最大内存容量,数据处理速度为每秒6.4GB,为业界最快。

它还提供了12层24GB HBM3样品,这是第四代HBM芯片,也是业界最薄的同类芯片。

三星对HBM的布局从HBM2开始,目前,三星已经向客户提供了HBM2和HBM2E产品。

6dbeae46-1679-11ee-962d-dac502259ad0.png

目前,三星正在准备批量生产年传输速度可达6.4Gbps的HBM3(16GB和12GB)产品,并计划于下半年推出较HBM3容量更高性能更强的下一代HBM3P产品。

此前,三星电子一直致力于开发高性能计算(HPC)芯片,HBM芯片比重相对不大,但近日三星对HBM市场的关注度提升,HBM市场规模或迎来大幅增长。

三星电子HBM3正式向北美GPU企业供货,HBM3在三星电子整体DRAM销售额中所占比重或将从今年的6%扩大至明年的18%。

2024年预计实现接口速度高达7.2Gbps的HBM3P,预计2025年在新一代面向AI的GPU中见到HBM3P的应用。

美光科技走得较慢,于2020年7月宣布大规模量产HBM2E,HBM3也仍作为其产品线在持续研发之中。

6e5f9fea-1679-11ee-962d-dac502259ad0.png

结尾:

专家预测,HBM等AI专用DRAM的开发,将给半导体行业带来巨大变革。

存储半导体公司忙于开发超微制造工艺的时代已经过去,高效处理数据甚至具备处理数据能力的AI半导体技术的发展将变得如此重要,它将决定芯片制造商的未来。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    18288

    浏览量

    222167
  • SK海力士
    +关注

    关注

    0

    文章

    780

    浏览量

    38020
  • HBM
    HBM
    +关注

    关注

    0

    文章

    233

    浏览量

    14383

原文标题:产业丨HBM内存:韩国人的游戏

文章出处:【微信号:World_2078,微信公众号:AI芯天下】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    SK海力士将采用台积电7nm制程生产HBM4内存基片

    HBM内存基础裸片即DRAM堆叠基座,兼具与处理器通信的控制功能。SK海力士近期与台积电签订HBM内存合作协议,首要任务便是提升HBM基础逻
    的头像 发表于 04-23 16:41 315次阅读

    聊聊GPU背后的大赢家-HBM

    HBM全称为High Bandwidth Memory,直接翻译即是高带宽内存,是一款新型的CPU/GPU内存芯片。
    的头像 发表于 04-20 15:27 966次阅读
    聊聊GPU背后的大赢家-<b class='flag-5'>HBM</b>

    三星联席CEO在AI合作交流中力推HBM内存

    庆桂显此行主要推广三星的HBM内存,并探索AI合作可能性。然而,由于此前在HBM策略上出现失误,三星已被竞争对手SK海力士超越;位于第三位的美光近年来也在HBM3芯片上取得突破,成功获
    的头像 发表于 04-16 16:46 373次阅读

    英伟达CEO赞誉三星HBM内存,计划采购

     提及此前有人预测英伟达可能向三星购买HBM3或HBM3E等内存,黄仁勋在会上直接认可三星实力,称其为“极具价值的公司”。他透露目前已对三星HBM
    的头像 发表于 03-20 16:17 417次阅读

    什么是HBM3E内存?Rambus HBM3E/3内存控制器内核

    Rambus HBM3E/3 内存控制器内核针对高带宽和低延迟进行了优化,以紧凑的外形和高能效的封装为人工智能训练提供了最大的性能和灵活性。
    发表于 03-20 14:12 567次阅读
    什么是<b class='flag-5'>HBM</b>3E<b class='flag-5'>内存</b>?Rambus <b class='flag-5'>HBM</b>3E/3<b class='flag-5'>内存</b>控制器内核

    美光科技开始量产HBM3E高带宽内存解决方案

    美光科技股份有限公司(Micron Technology, Inc.)是全球内存与存储解决方案的领先供应商,近日宣布已经开始量产其HBM3E高带宽内存解决方案。这一重要的里程碑式进展再次证明了美光在
    的头像 发表于 03-05 09:16 419次阅读

    AMD MI300加速器将支持HBM3E内存

    据手机资讯网站IT之家了解,MI300加速器配备了HBM3内存模块,并面向HBM3E进行了重新设计。另外,该公司在供应链交付合作方面颇为深入,不仅与主要的存储器供应商建立了稳固的联系,同时也与如台积电等重要的基板供应商以及OSA
    的头像 发表于 02-27 15:45 225次阅读

    深度解析HBM内存技术

    HBM作为基于3D堆栈工艺的高性能DRAM,打破内存带宽及功耗瓶颈。HBM(High Bandwidth Memory)即高带宽存储器,通过使用先进封装(如TSV硅通孔、微凸块)将多个DRAM芯片进行堆叠,并与GPU一同进行封装
    的头像 发表于 01-02 09:59 1693次阅读
    深度解析<b class='flag-5'>HBM</b><b class='flag-5'>内存</b>技术

    英伟达斥资预购HBM3内存,为H200及超级芯片储备产能

    据最新传闻,英伟达正在筹划发布两款搭载HBM3E内存的新品——包括141GB HBM3E的H200 GPU及GH200超级芯片,这也进一步说明了对于HBM
    的头像 发表于 01-02 09:27 299次阅读

    英伟达大量订购HBM3E内存,抢占市场先机

    英伟达(NVIDIA)近日宣布,已向SK海力士、美光等公司订购大量HBM3E内存,为其AI领域的下一代产品做准备。也预示着内存市场将新一轮竞争。
    的头像 发表于 12-29 16:32 651次阅读

    AI大模型不断拉高上限,内存控制器IP提早部署,力拱HBM3E的到来

    数据量、复杂度在增加,HBM内存被彻底带火。这种高带宽高速的内存十分适合于AI训练场景。最近,内存芯片厂商已经不约而同地切入HBM3E竞争当
    的头像 发表于 12-13 15:33 995次阅读
    AI大模型不断拉高上限,<b class='flag-5'>内存</b>控制器IP提早部署,力拱<b class='flag-5'>HBM</b>3E的到来

    Rambus通过9.6 Gbps HBM3内存控制器IP大幅提升AI性能

    为增强AI/ML及其他高级数据中心工作负载打造的 Rambus 高性能内存 IP产品组合 高达9.6 Gbps的数据速率,支持HBM3内存标准的未来演进 实现业界领先的1.2 TB/s以上内存
    发表于 12-07 11:01 129次阅读
     Rambus通过9.6 Gbps <b class='flag-5'>HBM</b>3<b class='flag-5'>内存</b>控制器IP大幅提升AI性能

    SK海力士推全球最高性能HBM3E内存

    HBM3E内存(也可以说是显存)主要面向AI应用,是HBM3规范的扩展,它有着当前最好的性能,而且在容量、散热及用户友好性上全面针对AI优化。
    的头像 发表于 08-22 16:28 603次阅读

    继续加大产量,HBM内存厂商的新宠儿

    电子发烧友网报道(文/周凯扬)随着AI芯片逐渐成为半导体市场的香饽饽,与之相关的附属产物也在不断升值,被一并炒热。就拿高带宽内存HBM来说,无论是英伟达的GPU芯片,还是初创公司打造的AI芯片
    的头像 发表于 08-15 01:14 1155次阅读

    大模型市场,不止带火HBM

    近日,HBM成为芯片行业的火热话题。据TrendForce预测,2023年高带宽内存HBM)比特量预计将达到2.9亿GB,同比增长约60%,2024年预计将进一步增长30%。
    的头像 发表于 07-11 18:25 738次阅读
    大模型市场,不止带火<b class='flag-5'>HBM</b>