0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Rambus HBM3内存控制器IP速率达到9.6 Gbps

Rambus 蓝铂世科技 来源:donews 作者:donews 2024-01-23 11:19 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

- 以下文章转载自【donews】-

人工智能大模型浪潮的推动下,AI训练数据集正极速扩增。以ChatGPT为例,去年11月发布的GPT-3,使用1750亿个参数构建,今年3月发布的GPT-4使用超过1.5万亿个参数。海量的数据训练,这对算力提出了高需求。

而HBM(高频宽存储器)作为内存的一种技术类型,采用创新的2.5D/3D架构,能够为AI加速器提供具有高内存带宽和低功耗的解决方案,同时凭借极低的延迟和紧凑的封装,HBM已成为AI训练硬件的首选。

TrendForce预估,2024年全球HBM的位元供给有望增长105%;HBM市场规模也有望于2024年达89亿美元,同比增长127%;预计2025年HBM市场规模将会突破100亿美元。

近日,作为业界领先的芯片和IP核供应商, Rambus Inc.(纳斯达克股票代码:RMBS)宣布Rambus HBM3内存控制器IP现在可提供高达9.6 Gbps的性能,可支持HBM3标准的持续演进。

大幅提升AI性能 提供领先支持

众所周知,JEDEC(电子工程器件联合委员会)将DRAM分为标准DDR、移动DDR以及图形DDR三类,HBM则属于图形DDR中的一种。

在设计上,HBM包含了中介层,以及处理器、内存堆栈。HBM通过使用先进的封装方法(如TSV硅通孔技术)垂直堆叠多个DRAM,与GPU通过中介层互联封装在一起,打破了内存带宽及功耗瓶。这也让传输速率成为了HBM的核心参数。

从2014年全球首款HBM产品问世至今,HBM技术已发展至第四代,分别为HBM、HBM2、HBM2e、HBM3,带宽和容量分别从最初128GB/S和1GB提升至819GB/S和24GB,传输速度从1Gbps提高至6.4Gbps。据悉,第五代HBM3E已在路上, 由SK Hynix、美光和三星共同发布,它所支持的数据传输速率达到9.6Gb/s。

98e3c0e4-b99d-11ee-8b88-92fbcf53809c.jpg

对于HBM而言,Rambus并不陌生,早于2016年就入局了HBM市场。此次发布的Rambus HBM3内存控制器IP专为需要高内存吞吐量、低延迟和完全可编程性应用而设计。相比HBM3 Gen1 6.4 Gbps 的数据速率,Rambus HBM3内存控制器的数据速率提高了50%,总内存吞吐量超过1.2 TB/s,适用于推荐系统的训练、生成式AI以及其他要求苛刻的数据中心工作负载。

Rambus 接口IP产品管理和营销副总裁 Joe Salvador介绍称,该控制器是一种高度可配置的模块化解决方案,可根据每个客户对尺寸和性能的独特要求进行定制。目前已与SK海力士、美光、三星完成了一整套的测试。对于选择第三方HBM3 PHY(物理层)的客户,Rambus还提供HBM3控制器的集成与验证服务。

就当前HBM市场发展格局,Joe Salvador坦言道:“目前为止还没有了解到有哪一家竞争对手跟我们一样,已经有经过验证的能够去支持HBM3 9.6Gbps传输速率的内存控制器IP。Rambus HBM3内存控制器将以高达9.6Gb/s的性能,为HBM3提供业界领先的支持。”

同时,Joe Salvador表示,一家企业想进入到HBM行业会面临相应的一些门槛和有诸多的挑战,首先就是对于总体架构设计的复杂度和了解程度不够。Rambus正是得益于积累了多年的技术经验和跟主流内存厂商合作的经验,使得所设计出来的内存控制器可以做到高性能、低功耗,而且对于客户来说成本也相对较低,且具有很好的兼容性。

AI时代 Rambus将全面发力

当前大模型的百花齐放,让HBM也水涨船高。

但面对当前AI发展趋势,Joe Salvador直言道,目前来说,我们无法预知它未来会发展到何种程度。“目前,还没有看到AI相关的应用领域,对于高性能计算、更高的带宽和内存容量的需求有任何下降的趋势。所以在可以预见的将来,这都会一直推动我们持续地创新,以及推动整个行业进一步地创新。”

他还表示,目前可以看到的是,AI的应用场景正在从以前集中在数据中心当中,逐渐地向边缘计算去拓展。对于Rambus来说,这也就意味着我们业务的重心将有可能不再像以前那样全部集中在数据中心当中,而是也会随着市场需求囊括边缘计算的场景。

Rambus 大中华区总经理苏雷补充称,AI向前发展对技术方面的需求,主要就是算力和内存,算力方面可能不会有太多的挑战,目前摆在业界面前的更多是存储的问题。而Rambus是存储方面的专家,可以预见到伴随着AI的新成长,Rambus会在这一轮的科技浪潮中发挥越来越重要的作用,助力AI的成长。

审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储器
    +关注

    关注

    39

    文章

    7714

    浏览量

    170839
  • Rambus
    +关注

    关注

    0

    文章

    66

    浏览量

    19278
  • 人工智能
    +关注

    关注

    1813

    文章

    49734

    浏览量

    261472

原文标题:【媒体报道】Rambus HBM3速率达到9.6 Gbps,大幅提升AI性能

文章出处:【微信号:Rambus 蓝铂世科技,微信公众号:Rambus 蓝铂世科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    AI大算力的存储技术, HBM 4E转向定制化

    在积极配合这一客户需求。从HMB4的加速量产、HBM4E演进到逻辑裸芯片的定制化等HBM技术正在创新中发展。   HBM4 E的 基础裸片 集成内存
    的头像 发表于 11-30 00:31 4964次阅读
    AI大算力的存储技术, <b class='flag-5'>HBM</b> 4E转向定制化

    基于FPGA的DDR控制器设计

    DDR控制协议 DDR3读写控制器主要用于生成片外存储DDR3 SDRAM进行读写操作所需要的时序,继而实现对片外存储
    发表于 10-21 14:30

    CDCFR83A 直接 Rambus™ 时钟发生文档总结

    直接串斗时钟发生 (DRCG) 提供必要的时钟信号以支持 直接串斗 内存子系统。它包括将直接 Rambus 通道时钟同步到外部系统的信号,或者 处理时钟。它旨在支持台式机、工作站、
    的头像 发表于 09-19 15:22 607次阅读
    CDCFR83A 直接 <b class='flag-5'>Rambus</b>™ 时钟发生<b class='flag-5'>器</b>文档总结

    澜起科技推出CXL® 3.1内存扩展控制器,助力下一代数据中心基础设施性能升级

    澜起科技今日宣布,推出基于CXL® 3.1 Type 3标准设计的内存扩展控制器(MXC)芯片M88MX6852,并已开始向主要客户送样测试。该芯片全面支持CXL.mem和CXL.io协议,致力于为
    的头像 发表于 09-01 10:56 575次阅读

    Cadence推出LPDDR6/5X 14.4Gbps内存IP系统解决方案

    楷登电子(美国 Cadence 公司,NASDAQ:CDNS)近日宣布业内首个 LPDDR6/5X 内存 IP 系统解决方案完成流片。该解决方案已经过优化,运行速率高达 14.4Gbps
    的头像 发表于 07-17 17:17 993次阅读
    Cadence推出LPDDR6/5X 14.4<b class='flag-5'>Gbps</b><b class='flag-5'>内存</b><b class='flag-5'>IP</b>系统解决方案

    美光12层堆叠36GB HBM4内存已向主要客户出货

    随着数据中心对AI训练与推理工作负载需求的持续增长,高性能内存的重要性达到历史新高。Micron Technology Inc.(美光科技股份有限公司,纳斯达克股票代码:MU)宣布已向多家主要客户送样其12层堆叠36GB HBM
    的头像 发表于 06-18 09:41 1167次阅读

    Cadence推出HBM4 12.8Gbps IP内存系统解决方案

    需求。Cadence HBM4 解决方案符合 JEDEC 的内存规范 JESD270-4,与前一代 HBM3E IP 产品相比,内存带宽翻了
    的头像 发表于 05-26 10:45 1183次阅读

    NVMe控制器IP设计之接口转换

    这是NVMe控制器IP设计系列博客之一,其他的见本博客或csdn搜用户名:tiantianuser。相关视频见B站用户名:专注与守望。 接口转换模块负责完成AXI4接口与控制器内部的自定义接口之间
    发表于 05-10 14:33

    AI应用激增,硬件安全防护更关键,Rambus 发布CryptoManager安全IP解决方案

    知名半导体IP和芯片供应商Rambus以创新为基础打造三大半导体解决方案,包括基础技术、半导体IP和芯片。基础技术方面,35年以来公司开发了约2700项专利。半导体IP方面,提供接口
    的头像 发表于 04-25 18:07 2385次阅读
    AI应用激增,硬件安全防护更关键,<b class='flag-5'>Rambus</b> 发布CryptoManager安全<b class='flag-5'>IP</b>解决方案

    三星在4nm逻辑芯片上实现40%以上的测试良率

    三星电子在 HBM3 时期遭遇了重大挫折,将 70% 的 HBM 内存市场份额拱手送给主要竞争对手 SK 海力士,更是近年来首度让出了第一大 DRAM 原厂的宝座。这迫使三星在 HBM
    发表于 04-18 10:52

    AD9177线速率为什么无法达到19.8Gbps

    通过MICROBALZE配置AD9177,数据率9.6GSPS 输入300MHz参考时钟,内部倍频至9.6GHz作为采样时钟,显示PLL已锁定 JESD204C 8个lane无法正常校验成功,此时线速率是19.8
    发表于 04-15 07:09

    DDR内存控制器的架构解析

    DDR内存控制器是一个高度集成的组件,支持多种DDR内存类型(DDR2、DDR3、DDR3L、LPDDR2),并通过精心设计的架构来优化
    的头像 发表于 03-05 13:47 3242次阅读
    DDR<b class='flag-5'>内存</b><b class='flag-5'>控制器</b>的架构解析

    三星电子将供应改良版HBM3E芯片

    三星电子在近期举行的业绩电话会议中,透露了其高带宽内存HBM)的最新发展动态。据悉,该公司的第五代HBM3E产品已在2024年第三季度实现大规模生产和销售,并在第四季度成功向多家GPU厂商及数据中心供货。与上一代
    的头像 发表于 02-06 17:59 1022次阅读

    美光加入16-Hi HBM3E内存竞争

    近日,全球DRAM内存巨头之一的美光科技公司宣布,将正式进军16-Hi(即16层堆叠)HBM3E内存市场。目前,美光正在对最终设备进行评估,并计划在今年内实现量产。 这一消息标志着美光在高性能
    的头像 发表于 01-17 14:14 860次阅读

    美光新加坡HBM内存封装工厂破土动工

    近日,全球领先的HBM内存制造商之一——美光宣布,其位于新加坡的HBM内存先进封装工厂项目已于当地时间今日正式破土动工。这座工厂预计将于2026年正式投入运营,成为新加坡当地的首家此类
    的头像 发表于 01-09 16:02 1087次阅读