0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大算力芯片里的HBM,你了解多少?

贞光科技 2023-12-05 16:14 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

最近,随着人工智能行业的高速崛起,大算力芯片业成为半导体行业为数不多的热门领域

HBM (高宽带内存:High-bandwidth memory)作为大算力芯片里不可或缺的组成部分,也因此走入了行业内外人士的视野

wKgaomVu29qAc42KAAT5uH-zMbE687.jpg

和传统的GDDR相比,HBM不仅仅提供了更大的位数宽度,而且通过TSV和Interposer的连接方式,大幅降低了数据通讯上的能量损耗。这对于大算力芯片的性能效率提升是起到决定性作用的

如果GPU通过PCB板和传统GDDR内存交换数据,那在高速运算时其大多数的能耗都会消耗在数据通讯本身而非计算上。这对于能耗成本高企的AI模型训练来说是几乎不可接受的

而采用HBM以后,通讯相关的能耗可以成倍降低,甚至有可能把能耗占比降到20%,甚至更低。所以目前AI相关的算力芯片都几乎采用了HBM的技术方案。HBM的市场也随之爆发(见下图)

wKgZomVu29mAMxEIAAVMovWcDV8129.jpg

我趁这个热度,也收集了不少资料好好学习了一下HBM相关的知识

HBM到目前为止基本发展了四代:

第一代和第二代的技术规范标准被定义在了JEDEC的JESD235里,后更新为JESD235A。HBM2相对于HBM1的区别是通道模式由原来的Legacy变成了Pseudo Channel:用两个虚拟的64位通道等效成一个128位通道

后来在JESD235C和JESD235D里定义了HBM2E,较大幅度地提升了数据通讯能力等参数。行业里习惯把这个称为第三代HBM

而JESD238开始定义的HBM3则被顺延地称为了第四代HBM。需要注意的是,这次JEDEC标准文档的编号也从235改成了238

wKgaomVu29mAWxFzAAFhEZSBp8I183.jpg

和之前的版本相比,HBM3的最大变化是每个Stack的通道(Channel)数量从2个增加到了4个,从而使得数据容量翻倍

后来在JEDEC的标准上,Micron、Hynix等制造商也分别推出了自己的增强型版本至于第五代的HBM4,目前JEDEC的标准还没有正式推出。我在网上也只能找到一些简单的指标数据作为参考

为了整理各个版本HBM的具体指标参数和相关信息,我不仅下载了JEDEC的各个版本文档,也参考不少其它的资料,然后收集整理了下面这个表格供大家参考欢迎大家帮忙确认,如果发现任何问题,请和我沟通或者在公众号给我留言,谢谢了

wKgaomVu29qAFf0aAAft7E7AVtY562.jpg

注:转载至 半导体综研 文中观点仅供分享交流,不代表贞光科技立场,如涉及版权等问题,请您告知,我们将及时处理!

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    463

    文章

    54631

    浏览量

    470909
  • 半导体
    +关注

    关注

    339

    文章

    31471

    浏览量

    267626
  • HBM
    HBM
    +关注

    关注

    2

    文章

    437

    浏览量

    15908
  • 算力芯片
    +关注

    关注

    0

    文章

    61

    浏览量

    5242
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    企业如何突破AI困局?2026 年异构管理平台推荐

    随着 AI 大模型爆发式增长,异构管理已成为企业 AI 基础设施建设的核心挑战。本文从行业现状出发,分析异构管理的核心痛点与选型要点,并结合典型产品实践,为企业技术决策者提供参
    的头像 发表于 05-20 12:53 68次阅读

    成都汇阳投资关于AI 引爆需求,存储芯片涨价周期来袭

    AI 黑洞来袭 ,存储需求呈爆炸式增长 AI基础设施的爆发成为存储芯片需求的核心驱动力,单台 AI服务器 DRAM 用量是普通服务器
    的头像 发表于 03-27 17:12 700次阅读

    国产出海元年开启

      国产开启“大航海”时代。 黄仁勋前段时间访华时曾表示:“华为AI芯片取代英伟达只是时间问题。”彼时,这话多被解读为对老对手的客套。但在刚刚结束的2025世界人工智能大会上,华为昇腾384超
    的头像 发表于 03-24 15:15 736次阅读
    国产<b class='flag-5'>算</b><b class='flag-5'>力</b>出海元年开启

    “上天入海”之革命:“海风直连”海底数据中心开启绿色新纪元

    上海临港外10公的海面上,风机叶片在海风中缓缓转动,产生的电力沿着专用电缆直抵海底深处一个圆筒形舱体,舱内数千台服务器正为AI大模型运行提供。2026年2月初,全球首个“海风直连”海底
    的头像 发表于 02-11 10:17 4495次阅读
    “上天入海”之<b class='flag-5'>算</b><b class='flag-5'>力</b>革命:“海风直连”海底数据中心开启绿色<b class='flag-5'>算</b><b class='flag-5'>力</b>新纪元

    云天励飞正式举办大芯片战略前瞻会

    2月3日,云天励飞正式举办“大芯片战略前瞻会”,首次对外公布未来三年的大 AI 推理芯片
    的头像 发表于 02-06 17:23 3958次阅读

    中国芯片的拐点时刻

    作者|Taylor出品|芯片技术与工艺当OpenAI的GPT-5在得克萨斯州的机房中昼夜轰鸣,当Nvdia的H200芯片被炒至数十万美元仍一卡难求,中国的
    的头像 发表于 01-31 07:00 2216次阅读
    中国<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>的拐点时刻

    将AI送上太空,是终极方案还是疯狂幻想?评论区说出的阵营!

    AI
    江苏易安联
    发布于 :2026年01月06日 09:43:34

    HBM3E反常涨价20%,AI竞赛重塑存储芯片市场格局

    明年HBM3E价格,涨幅接近20%。   此次涨价背后,是AI需求爆发与供应链瓶颈的共同作用。随着英伟达H200、谷歌TPU、 亚马逊Trainium 等AI芯片需求激增,
    的头像 发表于 12-28 09:50 8009次阅读

    AI大的存储技术, HBM 4E转向定制化

    在积极配合这一客户需求。从HMB4的加速量产、HBM4E演进到逻辑裸芯片的定制化等HBM技术正在创新中发展。   HBM4 E的 基础裸片 集成内存控制器   外媒报道,台积电在近日的
    的头像 发表于 11-30 00:31 8990次阅读
    AI大<b class='flag-5'>算</b><b class='flag-5'>力</b>的存储技术, <b class='flag-5'>HBM</b> 4E转向定制化

    湘军,让变成生产

    脑极体
    发布于 :2025年11月25日 22:56:58

    捷智重大更新|API接口全面开放,调用更高效

    人工调度太耗时?业务系统对接总卡壳?捷智重磅升级——租赁平台API接口正式开放,让
    的头像 发表于 11-21 18:41 1171次阅读
    捷智<b class='flag-5'>算</b>重大更新|API接口全面开放,<b class='flag-5'>算</b><b class='flag-5'>力</b>调用更高效

    国产AI芯片真能扛住“内卷”?海思昇腾的这波操作藏了多少细节?

    最近行业都在说“是AI的命门”,但国产芯片真的能接住这波需求吗? 前阵子接触到海思昇腾910B,实测下来有点超出预期——7nm工艺下
    发表于 10-27 13:12

    不够、交付太慢?捷智裸金属租赁对标物理机性能,让立马用上高

    2025年国产大模型升级带动租赁需求爆发,高性能服务器“一机难求”。中研普华预测,今年我国
    的头像 发表于 09-12 20:06 1615次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>不够、交付太慢?捷智<b class='flag-5'>算</b>裸金属租赁对标物理机性能,让<b class='flag-5'>你</b>立马用上高<b class='flag-5'>算</b><b class='flag-5'>力</b>!

    一文看懂AI集群

    最近这几年,AI浪潮席卷全球,成为整个社会的关注焦点。大家在讨论AI的时候,经常会提到AI集群。AI的三要素,是、算法和数据。而AI
    的头像 发表于 07-23 12:18 2090次阅读
    一文看懂AI<b class='flag-5'>算</b><b class='flag-5'>力</b>集群

    AIGC基础设施技术架构与行业实践

    AIGC基础设施技术架构与行业实践 一、硬件层:AI的物理载体 芯片技术升级‌ 国际前沿‌:某国际
    的头像 发表于 05-29 07:44 1205次阅读
    AIGC<b class='flag-5'>算</b><b class='flag-5'>力</b>基础设施技术架构与行业实践