0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大算力芯片里的HBM,你了解多少?

贞光科技 2023-12-05 16:14 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

最近,随着人工智能行业的高速崛起,大算力芯片业成为半导体行业为数不多的热门领域

HBM (高宽带内存:High-bandwidth memory)作为大算力芯片里不可或缺的组成部分,也因此走入了行业内外人士的视野

wKgaomVu29qAc42KAAT5uH-zMbE687.jpg

和传统的GDDR相比,HBM不仅仅提供了更大的位数宽度,而且通过TSV和Interposer的连接方式,大幅降低了数据通讯上的能量损耗。这对于大算力芯片的性能效率提升是起到决定性作用的

如果GPU通过PCB板和传统GDDR内存交换数据,那在高速运算时其大多数的能耗都会消耗在数据通讯本身而非计算上。这对于能耗成本高企的AI模型训练来说是几乎不可接受的

而采用HBM以后,通讯相关的能耗可以成倍降低,甚至有可能把能耗占比降到20%,甚至更低。所以目前AI相关的算力芯片都几乎采用了HBM的技术方案。HBM的市场也随之爆发(见下图)

wKgZomVu29mAMxEIAAVMovWcDV8129.jpg

我趁这个热度,也收集了不少资料好好学习了一下HBM相关的知识

HBM到目前为止基本发展了四代:

第一代和第二代的技术规范标准被定义在了JEDEC的JESD235里,后更新为JESD235A。HBM2相对于HBM1的区别是通道模式由原来的Legacy变成了Pseudo Channel:用两个虚拟的64位通道等效成一个128位通道

后来在JESD235C和JESD235D里定义了HBM2E,较大幅度地提升了数据通讯能力等参数。行业里习惯把这个称为第三代HBM

而JESD238开始定义的HBM3则被顺延地称为了第四代HBM。需要注意的是,这次JEDEC标准文档的编号也从235改成了238

wKgaomVu29mAWxFzAAFhEZSBp8I183.jpg

和之前的版本相比,HBM3的最大变化是每个Stack的通道(Channel)数量从2个增加到了4个,从而使得数据容量翻倍

后来在JEDEC的标准上,Micron、Hynix等制造商也分别推出了自己的增强型版本至于第五代的HBM4,目前JEDEC的标准还没有正式推出。我在网上也只能找到一些简单的指标数据作为参考

为了整理各个版本HBM的具体指标参数和相关信息,我不仅下载了JEDEC的各个版本文档,也参考不少其它的资料,然后收集整理了下面这个表格供大家参考欢迎大家帮忙确认,如果发现任何问题,请和我沟通或者在公众号给我留言,谢谢了

wKgaomVu29qAFf0aAAft7E7AVtY562.jpg

注:转载至 半导体综研 文中观点仅供分享交流,不代表贞光科技立场,如涉及版权等问题,请您告知,我们将及时处理!

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    462

    文章

    53535

    浏览量

    459148
  • 半导体
    +关注

    关注

    336

    文章

    29985

    浏览量

    258289
  • HBM
    HBM
    +关注

    关注

    2

    文章

    426

    浏览量

    15698
  • 算力芯片
    +关注

    关注

    0

    文章

    56

    浏览量

    5059
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    “四合一”平台,芯片国产化率超九成,兼容8种国产AI芯片

    电子发烧友网报道(文/李弯弯)4月11日消息,由中国移动承建的全国首个“四合一”网络调度平台正式投入使用。四合一是指将通用
    的头像 发表于 04-13 00:03 3567次阅读

    AI大的存储技术, HBM 4E转向定制化

    在积极配合这一客户需求。从HMB4的加速量产、HBM4E演进到逻辑裸芯片的定制化等HBM技术正在创新中发展。   HBM4 E的 基础裸片 集成内存控制器   外媒报道,台积电在近日的
    的头像 发表于 11-30 00:31 5061次阅读
    AI大<b class='flag-5'>算</b><b class='flag-5'>力</b>的存储技术, <b class='flag-5'>HBM</b> 4E转向定制化

    湘军,让变成生产

    脑极体
    发布于 :2025年11月25日 22:56:58

    捷智重大更新|API接口全面开放,调用更高效

    人工调度太耗时?业务系统对接总卡壳?捷智重磅升级——租赁平台API接口正式开放,让
    的头像 发表于 11-21 18:41 168次阅读
    捷智<b class='flag-5'>算</b>重大更新|API接口全面开放,<b class='flag-5'>算</b><b class='flag-5'>力</b>调用更高效

    国产AI芯片真能扛住“内卷”?海思昇腾的这波操作藏了多少细节?

    最近行业都在说“是AI的命门”,但国产芯片真的能接住这波需求吗? 前阵子接触到海思昇腾910B,实测下来有点超出预期——7nm工艺下
    发表于 10-27 13:12

    不够、交付太慢?捷智裸金属租赁对标物理机性能,让立马用上高

    2025年国产大模型升级带动租赁需求爆发,高性能服务器“一机难求”。中研普华预测,今年我国
    的头像 发表于 09-12 20:06 1061次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>不够、交付太慢?捷智<b class='flag-5'>算</b>裸金属租赁对标物理机性能,让<b class='flag-5'>你</b>立马用上高<b class='flag-5'>算</b><b class='flag-5'>力</b>!

    一文看懂AI集群

    最近这几年,AI浪潮席卷全球,成为整个社会的关注焦点。大家在讨论AI的时候,经常会提到AI集群。AI的三要素,是、算法和数据。而AI
    的头像 发表于 07-23 12:18 974次阅读
    一文看懂AI<b class='flag-5'>算</b><b class='flag-5'>力</b>集群

    搭建中心,从了解的GPU 特性开始

    ABSTRACT摘要本文介绍如何搭建,并介绍A100、H100、H200和B200这些GPU的特性。JAEALOT2025年4月23日随着人工智能、大数据和高性能计算(HPC)的快速发展,市场上
    的头像 发表于 04-24 11:08 2988次阅读
    搭建<b class='flag-5'>算</b><b class='flag-5'>力</b>中心,从<b class='flag-5'>了解</b>的GPU 特性开始

    芯片的生态突围与革命

    电子发烧友网报道(文 / 李弯弯)大芯片,即具备强大计算能力的集成电路芯片,主要应用于高性能计算(HPC)、人工智能(AI)、数据中心、自动驾驶等需要海量数据并行计算的场景。随着
    的头像 发表于 04-13 00:02 2611次阅读

    【一文看懂】什么是端侧

    随着物联网(IoT)、人工智能和5G技术的快速发展,端侧正逐渐成为智能设备性能提升和智能化应用实现的关键技术。什么是端侧,它的应用价值是什么,与云计算、边缘计算有哪些区别?本文
    的头像 发表于 02-24 12:02 2964次阅读
    【一文看懂】什么是端侧<b class='flag-5'>算</b><b class='flag-5'>力</b>?

    安霸大AI芯片接入DeepSeek R1

    安霸(Ambarela)在人工智能领域持续发,已成功在多款 AI 芯片,包括 N 系列大 AI 芯片上本地部署了 DeepSeek
    的头像 发表于 02-17 13:36 871次阅读

    DeepSeek对芯片的影响

    DeepSeek模型,尤其是其基于MOE(混合专家)架构的DeepSeek-V3,对芯片的要求产生了深远影响。为了更好地理解这一影响,我们可以从几个方面进行分析。一.MOE架构对
    的头像 发表于 02-07 10:02 1623次阅读
    DeepSeek对<b class='flag-5'>芯片</b><b class='flag-5'>算</b><b class='flag-5'>力</b>的影响

    中心的如何衡量?

    作为当下科技发展的重要基础设施,其的衡量关乎其能否高效支撑人工智能、大数据分析等智能应用的运行。以下是对智中心算衡量的详细阐述:一、
    的头像 发表于 01-16 14:03 4203次阅读
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    科技云报到:要更要“利”,“精装”触发大模型产业新变局?

    科技云报到:要更要“利”,“精装”触发大模型产业新变局?
    的头像 发表于 01-16 10:24 796次阅读