0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

算力需求催生存力风口,HBM竞争从先进封装开始

时光流逝最终成了回忆 来源:电子发烧友网 作者:李宁远 2023-12-03 08:34 次阅读

电子发烧友网报道(文/李宁远)今年是生成式AI爆火的一年,各类基于生成式AI的工具席卷了今年的各类热点,最近视频领域Pika labs的产品也掀起了AI文生视频的热潮。而在生成式AI的推动下,HBM无疑是今年最火热的高端存储产品。

在AI芯片需求不减竞争加剧的背景下,全球最大的两家存储器芯片制造三星和SK海力士都在积极扩大HBM产量抢占AI芯片存力风口。与此同时,作为HBM头部厂商的SK海力士和三星在推进HBM迭代的同时,仍在不断探索新的HBM芯片封装技术。

三星此前一直在竭尽全力开发先进封装技术如I-cube、H-cube和X-cube,近期又宣布将研发先进3D封装技术SAINT。而SK海力士则在持续研发主打的基于TSV的封装工艺外,近期披露准备在下一代DRAM中应用扇出封装技术,探索HBM低成本路线。

传统封装无法匹配HBM需求,台积电CoWoS供不应求


人工智能算力发展如火如荼发展的当下,存力和算力一样,是风口上的刚需。高性能计算里很大一部分瓶颈在于处理器与DRAM之间的通信速度限制,而且二者之间的通信速度越来越跟不上高性能计算需求前进的脚步。

为了解决这个通信速度限制,很多技术被开发了出来,比如现在同样很火的存算一体。不过从目前来看,这些技术不可能在短时间内就解决处理器和内存之间通信限制。因此将DRAM与处理器通过封装技术结合成为解决限制行之有效的手段。

在所有存储芯片中,HBM也被看作是最适用于AI训练、推理的存储芯片。通过将多个DRAM芯片堆叠并与处理器封装在一起,HBM实现了大容量高位宽的DDR组合。

HBM通过与处理器相同的中介层互联实现近存计算,显著减少了数据传输时间。封装技术在其中发挥了决定性的作用,封装技术直接影响了最后的带宽和功耗。

HBM已经经历了几代产品的更迭,目前各大存储厂商主要也是使用基于TSV的封装技术进行芯片堆叠,基于TSV工艺的堆叠封装技术显著提升了HBM带宽,并降低了功耗减小了封装尺寸。

TSV的出现让半导体裸片和晶圆可以实现高密度互联堆叠在一起,是先进封装的标志之一。TSV硅通孔技术通过硅通道垂直穿过组成堆栈的不同芯片或不同层实现不同功能芯片集成,贯穿所有芯片层的通道可以进行信号、指令、电流的传输,吞吐量的增加打破了单一封装内低带宽的限制。

传统封装无法匹配HBM需求,基于TSV衍生出的封装技术,台积电的CoWoS是目前供不应求的最理想的封装方案。

不夸张地说,目前几乎所有的HBM系统都封装在CoWos上。CoWoS产能不足是行业内有目共睹的,直接造成了人工智能相关芯片的短缺。台积电也是一再上调CoWos产能,以满足市场需求。

三星发力3D封装,SAINT探索HBM新存储集成方案

作为行业头部HBM供应商,同时在先进封装领域布局积极的三星,在HBM升级竞赛里相当积极,意图赶超台积电HBM先进封装的决心也是很明显。

此前三星为了在单个封装内集成更多的Chiplet和HBM推出了I-Cube、H-Cube和X-Cube。I-Cube、H-Cube是2.5D封装,X-Cube是3D封装。

I-CUBE S将一块逻辑芯片与HBM裸片水平放置在一个硅中介层上,实现高算力、高带宽数据传输和低延迟;H-Cube将逻辑芯片与HBM裸片水平放置在一个硅中介层之外结合了ABF基底和HDI基底,在I-CUBE基础上实现更大的封装尺寸;X-Cube则是采用芯片垂直堆叠的全3D封装。

而在近期,三星又宣布将计划在明年推出先进的3D封装技术,使用SAINT技术(Samsung Advanced Interconnection Technology,即三星先进互连技术),以更小的尺寸集成高性能芯片所需的内存和处理器。

SAINT技术共分为三大类,一是用于垂直堆叠SRAMCPU的SAINT S,二是用于应用处理器堆叠的SAINT L,三则是应用于CPU、GPU等处理器和DRAM内存垂直封装的SAINT D。据相关报道,该技术中SAINT S已经通过了验证测试,SAINT D和SAINT L的技术验证将于明年完成。

HBM及其相关封装技术作为高性能计算领域扮演的重要角色,三星意图通过SAINT技术在HBM及封装领域占据主动。

SK海力士应用扇出封装寻找跳过TSV的降本之路

作为另一家HBM头部供应商,SK海力士同样是采用基于TSV的封装技术来进行产品迭代,现阶段SK海力士无疑是HBM类产品的市场领导者,占据了最大的市场份额。

SK海力士在HBM3市场占据领先地位离不开他们开发的MR-MUF(批量回流模制底部填充)技术。这项技术确保了HBM 10万多个微凸块互连的优良质量。

此外,该封装技术还增加了散热凸块的数量,同时由于其采用具有高导热性的模制底部填充材料,具有更加出色的散热性能。而SK海力士也一直在加强投入研发异构集成和扇出型RDL技术等先进封装技术。

虽然SK海力士的HBM产品均使用基于TSV的封装工艺,但相关产能的不足以及成本过高问题一直都存在。以TSV为核心的HBM封装工艺,在保证良率的前提下成本占比接近30%,比前后道工艺成本占比都要高,是占比最高的部分。

为了解决TSV产能低成本高的困扰,SK海力士除了持续研发主打的基于TSV的封装工艺之外,也在探索性价比更高的扇出封装,为下一代DRAM做准备。

SK海力士希望通过扇出封装这种方式,降低封装的成本增加I/O接口的数量,而且还能跳过TSV工艺。SK海力士计划明年推出该方案,并到2025年实现1微米以下或亚微米级水平的扇出型RDL技术。

SK海力士还透露将把下一代后处理技术“混合键合”应用于HBM 4产品,进一步缩小间距,同时在芯片堆叠时不使用焊接凸块,让封装在高度上更具优势。

小结

HBM涉及现在封装领域的最先进的内存封装技术,各大厂商在扩充原有技术路线产能的基础上,都在不断探索新的路线。在人工智能快速推动HBM需求的同时,HBM也带动了封装技术的不断创新。在算力需求催生存力风口的机遇下,HBM大厂间的竞争从先进封装就已经开始。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • HBM
    HBM
    +关注

    关注

    0

    文章

    234

    浏览量

    14383
  • 算力
    +关注

    关注

    1

    文章

    659

    浏览量

    14364
  • 先进封装
    +关注

    关注

    0

    文章

    271

    浏览量

    90
收藏 人收藏

    评论

    相关推荐

    SK海力士与台积电共同研发HBM4,预计2026年投产

    HBM3E(第五代 HBM 产品)起,SK海力士的 HBM 产品基础裸片均采用自家工艺生产;然而,从 HMB4(第六代 HBM 产品)开始
    的头像 发表于 04-19 10:32 241次阅读

    SK海力士签署先进芯片封装协议

    来源:Silicon Semiconductor 为下一代HBM建造先进封装设施,同时与普渡大学合作研发。 SK海力士将在美国印第安纳州西拉斐特投资约38.7亿美元,为人工智能产品建设先进
    的头像 发表于 04-16 11:17 90次阅读

    EMC测试整改:提升产品合规性和市场竞争力?|深圳比创达电子

    EMC测试整改:提升产品合规性和市场竞争力?|深圳比创达电子在当前的产品研发和制造领域,电磁兼容(EMC)测试是确保产品符合法规要求并能够在各种电磁环境下正常工作的重要环节。然而,很多企业在进行
    发表于 03-07 09:50

    SK海力士正探索与与铠侠合作在日本生产HBM

    HBM竞争才刚刚开始
    的头像 发表于 03-05 10:10 230次阅读
    SK海力士正探索与与铠侠合作在日本生产<b class='flag-5'>HBM</b>

    HBMHBM2、HBM3和HBM3e技术对比

    AI服务器出货量增长催化HBM需求爆发,且伴随服务器平均HBM容量增加,经测算,预期25年市场规模约150亿美元,增速超过50%。
    发表于 03-01 11:02 355次阅读
    <b class='flag-5'>HBM</b>、<b class='flag-5'>HBM</b>2、<b class='flag-5'>HBM</b>3和<b class='flag-5'>HBM</b>3e技术对比

    iBeLink KS MAX 10.5T大领跑KAS新领域

    有8G的显存,可以处理复杂的算法,提高挖掘稳定性。iBeLink ks max10.5T的超大特点是它的高效节能,它采用了先进的“存一体”高通量芯片,专为“大型复杂”的区的块的链
    发表于 02-20 16:11

    请问用强大的SOC来控制汽车是不是能够大幅减少MCU的使用数量?

    来自一位用户的咨询,麻烦帮忙解答,越详细越好,有图有真相,可以适当提供一些英飞凌解决方案和产品推荐。 用强大的SOC来控制汽车是不是能够大幅减少MCU的使用数量? 未来电动汽车会使用SOC来代替大量MCU?
    发表于 02-02 07:16

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    台积电:AI芯片先进封装需求强劲,供不应求将持续至2025年

    近日,台积电在法人说明会上表示,由于人工智能(AI)芯片先进封装需求持续强劲,目前产能无法满足客户的需求,供不应求的状况可能延续到2025年。为了应对这一
    的头像 发表于 01-22 15:59 379次阅读

    小芯片架构催生先进封装需求,市场规模增长率超10% 

    目前半导体工艺已逼近摩尔定律的物理极限,即将进入“子组件集成”阶段。然而,据预测,一旦制程达到或低于3纳米,众多芯片设计将转而采用芯片组结构。金融机构的数据显示,芯片组将驱动先进封装需求
    的头像 发表于 12-19 15:38 336次阅读

    集邦咨询:先进封装产能供应紧张有望缓解

    先进封装领域,三星正积极研发HBM技术,并与台积电携手合作,助推CoWoS工艺发展,从而扩大HBM3产品的销售版图。此外,三星于2022年加入台积电OIP 3DFabric联盟,以期
    的头像 发表于 12-12 14:28 196次阅读

    汽车取功能有什么作用,能取消吗?

    看的资料里讲是机械能和电能的转化,但还是没明白具体是什么作用。电取、机械取等有什么区别、作用?
    发表于 11-10 11:27

    追赶SK海力士,三星、美光抢进HBM3E

    电子发烧友网报道(文/黄晶晶)新型存储HBM随着AI训练需求的攀升显示出越来越重要的地位。从2013年SK海力士推出第一代HBM来看,HBM历经HB
    的头像 发表于 10-25 18:25 2227次阅读
    追赶SK海力士,三星、美光抢进<b class='flag-5'>HBM</b>3E

    预计未来两年HBM供应仍将紧张

    据业内消息人士透露,随着人工智能(AI)服务器需求的激增,高带宽内存(HBM)的价格开始上涨。
    发表于 07-07 12:23 400次阅读

    什么是Buck电源?矽杰SQ51201值得关注

    什么是多相Buck电源? 大数据,云计算,人工智能概念的兴起,通信基站,数据中心等基建设施及汽车电动智能化催生出的自动驾驶等终端应用都需要耗电更大的CPU,GPU及ASIC来支持更为强劲的
    发表于 06-28 15:48