0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Rambus HBM3内存控制器IP速率达到9.6 Gbps

Rambus 蓝铂世科技 来源:donews 作者:donews 2024-01-23 11:19 次阅读

- 以下文章转载自【donews】-

人工智能大模型浪潮的推动下,AI训练数据集正极速扩增。以ChatGPT为例,去年11月发布的GPT-3,使用1750亿个参数构建,今年3月发布的GPT-4使用超过1.5万亿个参数。海量的数据训练,这对算力提出了高需求。

而HBM(高频宽存储器)作为内存的一种技术类型,采用创新的2.5D/3D架构,能够为AI加速器提供具有高内存带宽和低功耗的解决方案,同时凭借极低的延迟和紧凑的封装,HBM已成为AI训练硬件的首选。

TrendForce预估,2024年全球HBM的位元供给有望增长105%;HBM市场规模也有望于2024年达89亿美元,同比增长127%;预计2025年HBM市场规模将会突破100亿美元。

近日,作为业界领先的芯片和IP核供应商, Rambus Inc.(纳斯达克股票代码:RMBS)宣布Rambus HBM3内存控制器IP现在可提供高达9.6 Gbps的性能,可支持HBM3标准的持续演进。

大幅提升AI性能 提供领先支持

众所周知,JEDEC(电子工程器件联合委员会)将DRAM分为标准DDR、移动DDR以及图形DDR三类,HBM则属于图形DDR中的一种。

在设计上,HBM包含了中介层,以及处理器、内存堆栈。HBM通过使用先进的封装方法(如TSV硅通孔技术)垂直堆叠多个DRAM,与GPU通过中介层互联封装在一起,打破了内存带宽及功耗瓶。这也让传输速率成为了HBM的核心参数。

从2014年全球首款HBM产品问世至今,HBM技术已发展至第四代,分别为HBM、HBM2、HBM2e、HBM3,带宽和容量分别从最初128GB/S和1GB提升至819GB/S和24GB,传输速度从1Gbps提高至6.4Gbps。据悉,第五代HBM3E已在路上, 由SK Hynix、美光和三星共同发布,它所支持的数据传输速率达到9.6Gb/s。

98e3c0e4-b99d-11ee-8b88-92fbcf53809c.jpg

对于HBM而言,Rambus并不陌生,早于2016年就入局了HBM市场。此次发布的Rambus HBM3内存控制器IP专为需要高内存吞吐量、低延迟和完全可编程性应用而设计。相比HBM3 Gen1 6.4 Gbps 的数据速率,Rambus HBM3内存控制器的数据速率提高了50%,总内存吞吐量超过1.2 TB/s,适用于推荐系统的训练、生成式AI以及其他要求苛刻的数据中心工作负载。

Rambus 接口IP产品管理和营销副总裁 Joe Salvador介绍称,该控制器是一种高度可配置的模块化解决方案,可根据每个客户对尺寸和性能的独特要求进行定制。目前已与SK海力士、美光、三星完成了一整套的测试。对于选择第三方HBM3 PHY(物理层)的客户,Rambus还提供HBM3控制器的集成与验证服务。

就当前HBM市场发展格局,Joe Salvador坦言道:“目前为止还没有了解到有哪一家竞争对手跟我们一样,已经有经过验证的能够去支持HBM3 9.6Gbps传输速率的内存控制器IP。Rambus HBM3内存控制器将以高达9.6Gb/s的性能,为HBM3提供业界领先的支持。”

同时,Joe Salvador表示,一家企业想进入到HBM行业会面临相应的一些门槛和有诸多的挑战,首先就是对于总体架构设计的复杂度和了解程度不够。Rambus正是得益于积累了多年的技术经验和跟主流内存厂商合作的经验,使得所设计出来的内存控制器可以做到高性能、低功耗,而且对于客户来说成本也相对较低,且具有很好的兼容性。

AI时代 Rambus将全面发力

当前大模型的百花齐放,让HBM也水涨船高。

但面对当前AI发展趋势,Joe Salvador直言道,目前来说,我们无法预知它未来会发展到何种程度。“目前,还没有看到AI相关的应用领域,对于高性能计算、更高的带宽和内存容量的需求有任何下降的趋势。所以在可以预见的将来,这都会一直推动我们持续地创新,以及推动整个行业进一步地创新。”

他还表示,目前可以看到的是,AI的应用场景正在从以前集中在数据中心当中,逐渐地向边缘计算去拓展。对于Rambus来说,这也就意味着我们业务的重心将有可能不再像以前那样全部集中在数据中心当中,而是也会随着市场需求囊括边缘计算的场景。

Rambus 大中华区总经理苏雷补充称,AI向前发展对技术方面的需求,主要就是算力和内存,算力方面可能不会有太多的挑战,目前摆在业界面前的更多是存储的问题。而Rambus是存储方面的专家,可以预见到伴随着AI的新成长,Rambus会在这一轮的科技浪潮中发挥越来越重要的作用,助力AI的成长。

审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储器
    +关注

    关注

    38

    文章

    7148

    浏览量

    161985
  • Rambus
    +关注

    关注

    0

    文章

    51

    浏览量

    18729
  • 人工智能
    +关注

    关注

    1776

    文章

    43845

    浏览量

    230600

原文标题:【媒体报道】Rambus HBM3速率达到9.6 Gbps,大幅提升AI性能

文章出处:【微信号:Rambus 蓝铂世科技,微信公众号:Rambus 蓝铂世科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    Rambus推GDDR7内存控制器IP满足AI应用需求

    据报道,该公司的 GDDR7 控制器采用 PAM3 信号,运行速度高达 40 Gbps,能为 GDDR7 存储器设备提供 160 GB/s 的吞吐量,相比其自身研发的GDDR6 控制器,提升了 67%。
    的头像 发表于 04-23 15:52 98次阅读

    NVIDIA预定购三星独家供应的大量12层HBM3E内存

    据悉,HBM3E 12H内存具备高达1280GB/s的宽带速率以及36GB的超大存储容量,较8层堆叠的HBM3 8H,分别提升了50%以上的带宽及容量。
    的头像 发表于 03-25 15:36 118次阅读

    英伟达CEO赞誉三星HBM内存,计划采购

     提及此前有人预测英伟达可能向三星购买HBM3HBM3E等内存,黄仁勋在会上直接认可三星实力,称其为“极具价值的公司”。他透露目前已对三星HBM
    的头像 发表于 03-20 16:17 415次阅读

    什么是HBM3E内存Rambus HBM3E/3内存控制器内核

    Rambus HBM3E/3 内存控制器内核针对高带宽和低延迟进行了优化,以紧凑的外形和高能效的封装为人工智能训练提供了最大的性能和灵活性。
    发表于 03-20 14:12 550次阅读
    什么是<b class='flag-5'>HBM</b>3E<b class='flag-5'>内存</b>?<b class='flag-5'>Rambus</b> <b class='flag-5'>HBM</b>3E/3<b class='flag-5'>内存</b><b class='flag-5'>控制器</b>内核

    Rambus推出9.6Gbps HBM3内存控制器IP

    人工智能(AI)无疑是近几年最火的技术。从开发到部署AI技术主要可分为两大步骤,即AI训练和AI推理。
    的头像 发表于 12-22 13:50 569次阅读

    AI大模型不断拉高上限,内存控制器IP提早部署,力拱HBM3E的到来

    数据量、复杂度在增加,HBM内存被彻底带火。这种高带宽高速的内存十分适合于AI训练场景。最近,内存芯片厂商已经不约而同地切入HBM3E竞争当
    的头像 发表于 12-13 15:33 994次阅读
    AI大模型不断拉高上限,<b class='flag-5'>内存</b><b class='flag-5'>控制器</b><b class='flag-5'>IP</b>提早部署,力拱<b class='flag-5'>HBM</b>3E的到来

    Rambus通过9.6 Gbps HBM3内存控制器IP大幅提升AI性能

    作为业界领先的芯片和 IP 核供应商,致力于使数据传输更快更安全,Rambus Inc.(纳斯达克股票代码:RMBS)今日宣布 Rambus HBM3
    的头像 发表于 12-07 14:16 363次阅读

    Rambus通过9.6 Gbps HBM3内存控制器IP大幅提升AI性能

    现在可提供高达9.6 Gbps的性能,可支持HBM3标准的持续演进。相比HBM3 Gen1 6.4 Gbps 的数据
    发表于 12-07 11:01 129次阅读
     <b class='flag-5'>Rambus</b>通过<b class='flag-5'>9.6</b> <b class='flag-5'>Gbps</b> <b class='flag-5'>HBM3</b><b class='flag-5'>内存</b><b class='flag-5'>控制器</b><b class='flag-5'>IP</b>大幅提升AI性能

    创意电子宣布5nm HBM3 PHY和控制器经过硅验证,速度为8.4Gbps

    区进行了展示。利用台积电业界领先的CoWoS®技术,平台包含功能齐全的HBM3控制器和PHY IP以及供应商HBM3储存器。 Level4自动驾驶计算机所需的计算量呈爆炸式增长,因此车
    的头像 发表于 09-07 17:37 298次阅读
    创意电子宣布5nm <b class='flag-5'>HBM3</b> PHY和<b class='flag-5'>控制器</b>经过硅验证,速度为8.4<b class='flag-5'>Gbps</b>

    三星或将从第四季度开始向英伟达供应HBM3

    有分析师爆料称三星将成为英伟达的HBM3存储芯片关键供应商,三星或将从第四季度开始向英伟达供应HBM3
    的头像 发表于 09-01 09:46 4.1w次阅读

    SK海力士推全球最高性能HBM3E内存

    HBM3E内存(也可以说是显存)主要面向AI应用,是HBM3规范的扩展,它有着当前最好的性能,而且在容量、散热及用户友好性上全面针对AI优化。
    的头像 发表于 08-22 16:28 601次阅读

    美光推出性能更出色的大容量高带宽内存 (HBM) 助力生成式人工智能创新

    (美光科技股份有限公司,纳斯达克股票代码:MU)今日宣布,公司已开始出样业界首款8层堆叠的24GB容量第二代HBM3内存,其带宽超过1.2TB/s,引脚速率超过9.2Gb/s,比当前市面上现有的
    的头像 发表于 08-01 15:38 525次阅读
    美光推出性能更出色的大容量高带宽<b class='flag-5'>内存</b> (<b class='flag-5'>HBM</b>) 助力生成式人工智能创新

    美光推出业界首款8层堆叠的24GB容量第二代HBM3内存

    Micron Technology Inc.(美光科技股份有限公司,纳斯达克股票代码:MU)今日宣布,公司已开始出样业界首款 8 层堆叠的 24GB 容量第二代 HBM3 内存,其带宽超过
    的头像 发表于 07-28 11:36 575次阅读

    Rambus提升GDDR6带宽,以应对边缘计算挑战

    Gbps运行的HBM2E在存储和处理器间的通道数达到了1024条,这无法在PCB上实现,因此硅中阶层(interposal)被用来连接内存和处理器。
    的头像 发表于 05-29 09:34 335次阅读
    <b class='flag-5'>Rambus</b>提升GDDR6带宽,以应对边缘计算挑战

    Rambus推出提升GDDR6内存接口性能的Rambus GDDR6

    凭借Rambus GDDR6 PHY所实现的新一级性能,设计人员可以为带宽要求极为苛刻的工作负载提供所需的带宽。和我们领先的HBM3内存接口一样,这项最新成就表明了我们不断致力于开发最先进的
    的头像 发表于 05-17 14:22 589次阅读