0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

存储芯片巨头,开启AI算力争霸赛

sakobpqhz 来源:芯东西 2023-08-08 11:16 次阅读

巨头排队疯抢、价格一路暴涨,HBM乘上生成式AI快车。

韩国存储芯片巨头们正在打一场翻身仗。

尽管从最新财报来看,存储芯片复苏未见好转,供应过剩导致营业利润大幅下降,但这些存储芯片巨头们的股价均在上周上涨。力挽狂澜的核心功臣,便是逐渐成为数据中心AI训练必备组件的AI相关内存芯片——高带宽内存(HBM)

因生成式AI开发和商业化竞争加剧,第二季度对AI相关内存的需求大幅增加。HBM的受关注程度,在上周SK海力士和三星发布最新财报后举行的电话会议期间可见一斑,分析师们就HBM相关进展和后续规划密集发问。

自去年英伟达发布世界首款采用HBM3的GPU H100以来,HBM3及更先进HBM芯片的热度一直居高不下。据英国《金融时报》援引两位接近SK海力士的消息人士报道,英伟达和AMD要求SK海力士提供尚未量产的下一代HBM3E芯片的样品。英伟达已要求SK海力士尽快供应HBM3E,并愿意支付“溢价”

48ca27bc-3520-11ee-9e74-dac502259ad0.png

▲英伟达GPU及其他AI芯片HBM采用情况(图源:SemiAnaysis)

虽说今年缩减开支是重头戏,但存储芯片巨头们在HBM方向的投资仍相当舍得——合计掌控着全球90%HBM芯片市场的两家大厂SK海力士和三星均表态,计划明年将HBM芯片产量提高一倍,并为了更好应对HBM不断增长的需求,而减少其他类别存储芯片的投资

01.英伟达AMD微软亚马逊排队

坐等用上HBM3E

高带宽内存(HBM)属于DRAM的一类分支,使用堆叠技术来提高图形处理器(GPU)等计算芯片的带宽和性能,相比传统DRAM芯片产品具有尺寸更小、功耗更低、带宽更高、处理数据速度更快等优势。

48f08bb4-3520-11ee-9e74-dac502259ad0.png

▲2015年AMD介绍新型存储芯片HBM(图源:AMD)

HBM最初用于高端游戏显卡,目前在全球动态随机存取存储器(DRAM)市场中占有的市场份额较小,但潜力非常可观。随着云计算及生成式AI服务的发展,全球大型科技公司将越来越多地使用HBM,来快速处理快速增长的数据。

据芯片行业咨询公司SemiAnalysis披露,HBM的价格大约是标准DRAM芯片的5倍,利润丰厚,预计到HBM占全球内存收入的比例将从目前的不到5%增长到2026年的20%以上。

自2013年开发全球首款HBM芯片以来,全球第二大存储芯片巨头SK海力士一直处于HBM领先地位。这也是SK海力士首次在内存技术竞赛中领先于三星。随后两家韩企进入激烈的HBM抢位赛,争相开始量产HBM2、HBM2E等芯片。

2022年6月,SK海力士宣布开始量产业界首款HBM3内存,与英伟达H100 GPU配合使用,预计将于2022年第三季度发货。该内存将为H100提供高达819GB/s的内存带宽。

4920a8d0-3520-11ee-9e74-dac502259ad0.jpg

▲历代HBM性能演进(图源:SK海力士和Rambus)

目前SK海力士是目前唯一一家批量出货HBM3的供应商,拥有超过95%的市场份额。它正在为AMD MI300X和英伟达H100生产数据速率为5.6GT/s的12层24GB HBM3。

今年一开年,HBM3便呈大热之势,订单迅速增加。2月份有报道称,据市场人士透露,HBM3价格近期上涨了5倍。

随后在5月30日,SK海力士乘胜追击推出最新的HBM3E,每个堆栈的带宽从HBM3的819GB/s增加到1TB/s,将于明年上半年投入生产,据说英伟达、AMD、微软、亚马逊等芯片大厂正排队抢货。这驱动HBM价格进一步大幅上涨。

据行研机构TrendForce的数据,SK海力士2022年在全球HBM市场占有50%的份额,三星以40%的份额紧随其后,美国存储芯片巨头对手美光以10%的份额排名第三。

SK海力士披露,生成式AI市场的扩张已迅速推高对AI服务器内存的需求。在AI相关需求激增的驱动下,上周三,SK海力士报告其今年第二季度同比由盈转亏,营业亏损为2.88万亿韩元,其股价上周却上涨了12%。

49361576-3520-11ee-9e74-dac502259ad0.png

▲过去半年SK海力士股价变化

次日,三星宣布第二季度营业利润为6685亿韩元,同比下降95%。受益于最新一代HBM3芯片在内的高端内存技术订单激增,三星股价周四上涨了2.4%,然后又有所回落。

495f1688-3520-11ee-9e74-dac502259ad0.png

▲过去半年三星电子股价变化

TrendForce预测,2023年全球HBM芯片需求将增长60%,达到2.9亿GB,明年将再增长30%,2025年整体市场有望达20亿美元以上。预计明年SK海力士将占据HBM市场53%的份额,其次是三星(38%)和美光(9%)。

02.AI服务器使用的内存

比传统服务器至少多出1~8倍

在财报电话会议上,SK海力士首席财务官Kim Woohyun说:“与传统服务器相比,AI服务器使用的内存至少多出1~8倍,以实现更快的计算处理,并采用HBM等高性能内存产品,这不仅会推动需求,而且对盈利能力产生了积极影响。

他谈道,从今年年初开始,智能手机、个人电脑和服务器的需求一直疲软。但从第二季度开始,AI服务器的需求急剧上升,抵消了其他产品需求的部分损失。自第二季度以来,生成式AI引发的对高端服务器的需求迅速增加。相应地,高密度DDR5和HBM产品的需求也在快速增长。

三星内存业务执行副总裁Jaejune Kim在三星财报电话会议上谈到第二季度在服务器方面的内存需求,由于对生成式AI的强劲需求,数据中心领域的投资在有限的资本支出中集中在AI服务器上,对通用服务器和存储的需求相对有限。

今年随着企业投资水平的降低,存储芯片客户将重点放在昂贵的AI服务器上的投资,对传统服务器的投资可能会暂时下降。不过,SK海力士分析预测,通用服务器仍将广泛用于AI服务的开发、部署和运营,因此从长远来看也将刺激通用服务器的需求增长。

据Kim Woohyun披露,SK海力士的图形DRAM销售额(包括HBM产品)此前仅占DRAM销售额的个位数百分比。但自从去年第四季度达到DRAM销售额的10%以来,这一比例迅速增长到第二季度超过20%。SK海力士用于AI服务器的HBM和高密度DDR5模块的销量大幅增长。该公司预计今年HBM的销量预计将比去年增长两倍以上,并预计明年将进一步增长。

03.今明HBM需求预计陡峭增涨

两家大厂披露HBM最新路线图

业内专家表示,由于调整产能需要时间,未来两年HBM供应预计仍将紧张,而快速增加HBM产量也很困难,因为它需要专门的生产线。

SK海力士和三星给出了相近的产业趋势解读:内存需求一直在从去年创纪录的低增长水平中复苏,当前复苏尚不足以使全行业库存水平恢复正常,上半年库存水平仍较高,但库存已经见顶,并预测随着减产效果进一步显现,下半年存储芯片需求将较上半年有所改善。

为了进一步加速库存正常化,两家存储芯片大厂都在选择性地对DRAM和NAND的某些产品进行额外的生产调整,下半年重点抓盈利能力,专注于高附加值和高密度产品来优化其产品组合,特别是加强销售组合中HBM、DDR5等高价值前沿产品的份额的增长,减少库存水平较高、盈利能力不及DRAM的NAND的产量。

SK海力士相信第三季度AI服务器需求将持续增涨,特别是高密度DDR模块和HBM,这两款产品的收入有望在下半年比上半年增速更高,HBM的需求将在明年保持相当健康的增长。

近期,特别是随着超大规模企业对生成式AI服务的竞争加剧,三星收到了来自此类客户的大量需求,预计今年和明年HBM的需求可能会出现相当陡峭的增长。

目前SK海力士的首要任务是投资增加HBM的大规模生产。该公司刚刚对今年年初制定的有关技术产能组合的规划进行了调整,以应对对高密度DDR5和HBM不断增长的需求。

对于HBM路线图来说,重要的是与GPU的发布或领先加速器市场的公司的时间表保持一致。SK海力士预计将在2026年某个时候转向HBM Gen 4,并正为此做准备。

根据其路线图,明年下半年将是HBM3E量产期,也是HBM3E的供应扩大期。今年SK海力士的重点是增加HBM量产所需的1Z纳米的比例,还准备增加1B纳米产能和TSV产能,为明年上半年开始供货的HBM3E做准备。

为了与市场增长预期保持一致,三星一直在扩展其HBM业务,产品方面拥有向主要客户独家供应HBM2的记录,后续还就HBM2E开展业务,计划2023年下半年开始大规模生产HBM3。三星HBM3正在接受具有行业顶级性能和密度或容量的客户资格认证,已开始向主要的AI SoC公司和云计算公司发货8层16GB和12层24GB产品。具有更高性能和容量的三星下一代HBM3P芯片计划于今年晚些时候发布

49f3585c-3520-11ee-9e74-dac502259ad0.png

▲三星HBM3介绍(图源:SemiAnalysis)

三星还一直投资HBM生产能力,基于此已经预订了大约10亿或十亿中值Gb级的客户需求,大约是去年的两倍,并正在通过提高生产力来进一步提高供应能力,到2024年计划将HBM产能增加至少是2023年水平的两倍。另据此前报道,三星拟投资1万亿韩元扩产HBM。

对于三星来说,它虽然在HBM竞争的反应比SK海力士慢半拍,但考虑到通常AI芯片与HBM存储器一起集成到单个封装中,三星拥有一个其他芯片企业所不具备的优势——兼具先进GAA工艺技术、HBM技术和先进封装技术

如果未来三星能够推出最大化发挥这三类关键技术协同效应的解决方案,这有望成为未来三星在AI算力市场竞争中的关键壁垒。

04.结语:存储芯片巨头打响HBM争霸赛

随着云计算和生成式AI服务越来越受欢迎,对HBM等高性能内存芯片的需求与日俱增。在HBM价格不断上涨的情况下,英伟达等芯片巨头仍在预订更多HBM产能来满足其GPU需求,这导致HBM3芯片的供给更加紧俏。

在今年资本支出大幅下降的情况下,在HBM市场领先的SK海力士正通过提高生产力、加快设备交付时间和削减其他领域的投资等努力,确保HBM3的产能和投资。稳居全球存储芯片第一的三星,自然不甘在HBM这一极具前景的细分市场屈居于SK海力士身后,亦加大马力争取新订单并专注于HBM等高附加值产品的销售。

全球排名第三的美国存储芯片巨头美光科技也在上周面向AI客户发布了最新DRAM四年路线图,包括用于AI和高性能计算应用的HBMNext。到2024年,美光科技HBM3E预计将在第三季度/第四季度开始出货。

4a3a89e8-3520-11ee-9e74-dac502259ad0.png

▲美光科技披露面向AI基础设施需求的解决方案路线图

存储芯片巨头们正在严阵以待,通过加大在先进技术突破和扩大产能方面的投资,为持续到来的HBM等支持大规模数据处理的高性能内存产品的需求激增做好准备。SK海力士能否在HBM技术和市场保持领先身位、长期掌握议价权,也是业界强烈关注的焦点。




审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • DRAM芯片
    +关注

    关注

    1

    文章

    80

    浏览量

    17881
  • 存储芯片
    +关注

    关注

    11

    文章

    796

    浏览量

    42452
  • 图形处理器
    +关注

    关注

    0

    文章

    185

    浏览量

    24901
  • HBM
    HBM
    +关注

    关注

    0

    文章

    231

    浏览量

    14383
  • DDR5
    +关注

    关注

    1

    文章

    371

    浏览量

    23604

原文标题:存储芯片巨头,开启AI算力争霸赛

文章出处:【微信号:算力基建,微信公众号:算力基建】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    什么是存储芯片?有什么作用呢?

    存储芯片是一种用于存储数据的集成电路芯片,也被称为存储芯片
    的头像 发表于 02-29 09:09 965次阅读

    逻辑芯片存储芯片的区别

    逻辑芯片存储芯片是计算机系统中两种不同类型的芯片,它们在功能和用途上有着明显的区别。
    的头像 发表于 01-17 18:26 725次阅读

    半导体芯片研究:中国存储芯片行业概览

    DRAM、NAND Flash、NOR Flash合计约占整体存储芯片市场的97%;自2022年初起,下游需求市场的萎缩以及宏观环境进一步恶化导致存储芯片市场不断承压,存储芯片价格持
    的头像 发表于 01-14 09:47 1436次阅读
    半导体<b class='flag-5'>芯片</b>研究:中国<b class='flag-5'>存储芯片</b>行业概览

    什么是SD NAND存储芯片?

    前言大家好,我们一般在STM32项目开发中或者在其他嵌入式开发中,经常会用到存储芯片存储数据。今天我和大家来介绍一款存储芯片,我这里采用(雷龙)CS创世SDNAND。SDNAND介绍
    的头像 发表于 01-05 17:53 725次阅读
    什么是SD NAND<b class='flag-5'>存储芯片</b>?

    存储芯片市场价格止跌 AI芯片需求推动先进工艺发展

    经历漫长的下行周期之后,存储芯片市场价格止跌,部分型号存储芯片价格出现反弹,该行业的疲软需求可能终于触底。
    的头像 发表于 11-14 10:47 660次阅读

    三星:存储芯片需求回暖!

    美国消费者新闻与商业频道分析,这意味存储芯片市场可能触底回升。按这家媒体说法,三星电子是全球最大的动态随机存取存储芯片制造商。这家企业生产的存储芯片广泛应用于智能手机和电脑等设备。
    的头像 发表于 11-02 16:57 583次阅读

    请问单片机存储芯片用什么好?

    单片机存储芯片用什么好?
    发表于 10-16 07:36

    存储芯片减产,AI芯片暴增!

    、去库存,但市场行情是否筑底众说纷纭,整体产业回暖的迹象亦不明显。 然而,在生成式AI对算力需求的带动下,2023年初以来高带宽内存(HBM)在整个存储芯片产业中可谓“这边风景独好”。目前,三星、SK海力士、美光等存储芯片大厂均
    的头像 发表于 09-08 10:36 490次阅读

    ai芯片存储芯片的区别

    ai芯片存储芯片的区别 人工智能(AI)技术在当今的数字时代中扮演着重要角色,而AI芯片
    的头像 发表于 08-09 11:38 2475次阅读

    存储芯片是什么 存储芯片的分类及发展历史

    存储芯片是半导体行业中非常重要的一类产品,我们日常所有的电子设备基本都会用到存储器。据WSTS预测,2023年全球存储芯片市场规模将达到1675亿美元,占比约30%;其中中国存储器市场
    发表于 07-07 10:27 8470次阅读
    <b class='flag-5'>存储芯片</b>是什么 <b class='flag-5'>存储芯片</b>的分类及发展历史

    存储芯片的转机,藏在汽车应用里

    存储芯片库存过剩、客户削减订单、产品价格暴跌,上千亿美元的存储芯片市场正在经历艰难时刻。虽然消费市场需求还未复苏,其他应用领域却蕴藏着机遇,比如数据中心、服务器以及汽车应用。 存储芯片在汽车
    的头像 发表于 07-03 17:09 660次阅读
    <b class='flag-5'>存储芯片</b>的转机,藏在汽车应用里

    存储芯片为什么这么重要 存储芯片与逻辑芯片区别

    存储芯片之所以重要,是因为它是计算机系统中数据的主要存储介质,承担着临时保存和长期存储数据的功能。
    发表于 06-19 16:51 6252次阅读

    车载存储芯片介绍

    存储芯片,也叫存储器,是用来存储程序和各种数据信息的记忆部件。
    发表于 06-09 11:05 1077次阅读
    车载<b class='flag-5'>存储芯片</b>介绍

    安防监控设备存储芯片用底部填充胶

    安防监控设备存储芯片用底部填充胶由汉思新材料提供经过客户电话了解情况:客户用胶产品是安防监控设备主板上8颗存储芯片+1颗处理器芯片存储芯片规格:长宽高10.5*8.0*1.1mmBGA
    的头像 发表于 06-08 09:33 652次阅读
    安防监控设备<b class='flag-5'>存储芯片</b>用底部填充胶

    存储芯片的原理_分类及应用

    存储芯片是指集成电路中用来存储数据的芯片,它可以存储数字信号,包括二进制码、字符、图像、声音等信息。存储芯片广泛应用于电子产品中,如计算机、
    的头像 发表于 06-02 09:24 9137次阅读