0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大算力芯片里的HBM,你了解多少?

贞光科技 2023-12-05 16:14 次阅读

最近,随着人工智能行业的高速崛起,大算力芯片业成为半导体行业为数不多的热门领域

HBM (高宽带内存:High-bandwidth memory)作为大算力芯片里不可或缺的组成部分,也因此走入了行业内外人士的视野

wKgaomVu29qAc42KAAT5uH-zMbE687.jpg

和传统的GDDR相比,HBM不仅仅提供了更大的位数宽度,而且通过TSV和Interposer的连接方式,大幅降低了数据通讯上的能量损耗。这对于大算力芯片的性能效率提升是起到决定性作用的

如果GPU通过PCB板和传统GDDR内存交换数据,那在高速运算时其大多数的能耗都会消耗在数据通讯本身而非计算上。这对于能耗成本高企的AI模型训练来说是几乎不可接受的

而采用HBM以后,通讯相关的能耗可以成倍降低,甚至有可能把能耗占比降到20%,甚至更低。所以目前AI相关的算力芯片都几乎采用了HBM的技术方案。HBM的市场也随之爆发(见下图)

wKgZomVu29mAMxEIAAVMovWcDV8129.jpg

我趁这个热度,也收集了不少资料好好学习了一下HBM相关的知识

HBM到目前为止基本发展了四代:

第一代和第二代的技术规范标准被定义在了JEDEC的JESD235里,后更新为JESD235A。HBM2相对于HBM1的区别是通道模式由原来的Legacy变成了Pseudo Channel:用两个虚拟的64位通道等效成一个128位通道

后来在JESD235C和JESD235D里定义了HBM2E,较大幅度地提升了数据通讯能力等参数。行业里习惯把这个称为第三代HBM

而JESD238开始定义的HBM3则被顺延地称为了第四代HBM。需要注意的是,这次JEDEC标准文档的编号也从235改成了238

wKgaomVu29mAWxFzAAFhEZSBp8I183.jpg

和之前的版本相比,HBM3的最大变化是每个Stack的通道(Channel)数量从2个增加到了4个,从而使得数据容量翻倍

后来在JEDEC的标准上,Micron、Hynix等制造商也分别推出了自己的增强型版本至于第五代的HBM4,目前JEDEC的标准还没有正式推出。我在网上也只能找到一些简单的指标数据作为参考

为了整理各个版本HBM的具体指标参数和相关信息,我不仅下载了JEDEC的各个版本文档,也参考不少其它的资料,然后收集整理了下面这个表格供大家参考欢迎大家帮忙确认,如果发现任何问题,请和我沟通或者在公众号给我留言,谢谢了

wKgaomVu29qAFf0aAAft7E7AVtY562.jpg

注:转载至 半导体综研 文中观点仅供分享交流,不代表贞光科技立场,如涉及版权等问题,请您告知,我们将及时处理!

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    447

    文章

    47804

    浏览量

    409179
  • 半导体
    +关注

    关注

    328

    文章

    24528

    浏览量

    202188
  • HBM
    HBM
    +关注

    关注

    0

    文章

    233

    浏览量

    14383
  • 算力芯片
    +关注

    关注

    0

    文章

    37

    浏览量

    4291
收藏 人收藏

    评论

    相关推荐

    三星电子HBM存储技术进展:12层HBM3E芯片,2TB/s带宽HBM4即将上市

    据业内透露,三星在HBM3E芯片研发方面遥遥领先其他公司,有能力在2024年9月实现对英伟达的替代,这意味着它将成为英伟达12层HBM3E的垄断供应商。然而,三星方面不愿透露具体客户信息。
    的头像 发表于 03-27 09:30 174次阅读

    英伟达寻求从三星采购HBM芯片

    英伟达正在寻求与三星建立合作伙伴关系,计划从后者采购高带宽存储(HBM芯片HBM作为人工智能(AI)芯片的核心组件,其重要性不言而喻。与此同时,三星正努力追赶业内领头羊SK海力士,
    的头像 发表于 03-25 11:42 390次阅读

    四川长虹回应帮华为代工 HBM芯片备受关注

    四川长虹回应帮华为代工 HBM芯片备受关注 AI的爆发极大的推动了HBM芯片的需求;今日市场有传闻称四川长虹将为华为代工HBM
    的头像 发表于 03-18 18:42 3462次阅读

    受困于良率?三星否认HBM芯片生产采用MR-MUF工艺

    芯片生产中应用MR-MUF(批量回流模制底部填充)技术的传言并不属实。   三星在HBM生产中目前主要采用非导电薄膜(NCF)技术,而非SK海力士使用的批量回流模制底部填充(MR-MUF)封装工艺。报道称之所以要采用MR-MUF是为了解
    的头像 发表于 03-14 00:17 2733次阅读
    受困于良率?三星否认<b class='flag-5'>HBM</b><b class='flag-5'>芯片</b>生产采用MR-MUF工艺

    从两会看AI产业飞跃,HBM需求预示存储芯片新机遇

    高端AI服务器GPU搭载HBM芯片已成为主流趋势。这表明,HBM芯片的需求在未来一段时间内继续保持旺盛,也将为相关企业提供了重要的机遇。
    的头像 发表于 03-12 13:59 457次阅读
    从两会看AI产业飞跃,<b class='flag-5'>HBM</b>需求预示存储<b class='flag-5'>芯片</b>新机遇

    HBM良率问题影响AI芯片产量

    在以台积电与三星代工为首的诸多企业中,长期以来,保持硅晶圆高效产出的良品率一直是个难题。然而,这个难关如今已经蔓延至HBM行业。
    的头像 发表于 03-07 09:41 270次阅读

    HBMHBM2、HBM3和HBM3e技术对比

    AI服务器出货量增长催化HBM需求爆发,且伴随服务器平均HBM容量增加,经测算,预期25年市场规模约150亿美元,增速超过50%。
    发表于 03-01 11:02 353次阅读
    <b class='flag-5'>HBM</b>、<b class='flag-5'>HBM</b>2、<b class='flag-5'>HBM</b>3和<b class='flag-5'>HBM</b>3e技术对比

    能RADXA微服务器试用体验】Radxa Fogwise 1684X Mini 规格

    通过网络可以了解到,能RADXA微服务器的具体规格: 处理器:BM1684X :高达32Tops INT8峰值
    发表于 02-28 11:21

    三星发布首款12层堆叠HBM3E DRAM

    近日,三星电子宣布,已成功发布其首款12层堆叠的高带宽内存(HBM3E)产品——HBM3E 12H,再次巩固了其在半导体技术领域的领先地位。据了解HBM3E 12H不仅是三星迄今为止
    的头像 发表于 02-27 14:28 439次阅读

    iBeLink KS MAX 10.5T大领跑KAS新领域

    有8G的显存,可以处理复杂的算法,提高挖掘稳定性。iBeLink ks max10.5T的超大特点是它的高效节能,它采用了先进的“存一体”高通量芯片,专为“大型复杂”的区的块的链
    发表于 02-20 16:11

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    英伟达斥资预购HBM3内存,为H200及超级芯片储备产能

    据最新传闻,英伟达正在筹划发布两款搭载HBM3E内存的新品——包括141GB HBM3E的H200 GPU及GH200超级芯片,这也进一步说明了对于HBM内存的大量需求。
    的头像 发表于 01-02 09:27 300次阅读

    HBM3E明年商业出货,兼具高速和低成本优点

        据了解HBM(High Bandwidth Memory)是指垂直连接多个DRAM,能够提升数据处理速度,HBM DRAM产品以 HBM(第一代)、
    的头像 发表于 10-10 10:25 452次阅读

    AI加速存储芯片反转 HBM芯片崛起

    HBM(High Bandwidth Memory)是一种创新的CPU/GPU内存芯片,它通过堆叠多个DDR芯片并与GPU封装在一起,实现了高容量和高位宽的DDR组合阵列。
    的头像 发表于 07-13 14:53 1163次阅读

    大模型市场,不止带火HBM

    近日,HBM成为芯片行业的火热话题。据TrendForce预测,2023年高带宽内存(HBM)比特量预计将达到2.9亿GB,同比增长约60%,2024年预计将进一步增长30%。
    的头像 发表于 07-11 18:25 742次阅读
    大模型市场,不止带火<b class='flag-5'>HBM</b>