0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

GDDR6和HBM2E双利器!Rambus内存接口方案助力突破AI应用带宽瓶颈

章鹰观察 来源:电子发烧友原创 作者:章鹰 2020-12-21 22:15 次阅读

12月9日,Rambus线上设计峰会召开,针对数据中心的存储挑战、5G边缘计算,以及内存接口方案如何提高人工智能和训练推理应用程序的性能,Rambus中国区总经理苏雷和Rambus高速接口资深应用工程师曹汪洋,数据安全资深应用工程师张岩带来最新的产业观察和技术分享。

数据中心和人工智能引领高速接口IP市场

“我们发现整个业界新推出的中速接口IP越来越少,低速的基本上没有了,大家都把注意力放在高速接口IP上。” Rambus中国区总经理苏雷对媒体表示,“主要原因有两个:一是工艺制程的进步和市场竞争,会迫使芯片设计厂商采用更高速的接口。二是从标准上来看,高速接口一般都可以做到向下兼容。”

苏雷从业务层面对内存需求进行了详细说明:数据中心和人工智能在大力推动接口IP市场的发展,引领了对数据带宽和内存能力的要求,推动计算架构的变革。现在高速内存控制器不断的出现,比如GDDR6、HBM;各种支持小芯片互联的技术也不断的出现,比如用于并行传输的HBI,还有用于串行传输的SerDes。

他特别强调,安全方面比以往任何时候都显得更加重要。因为在数据中心和AI训练里,大量的数据在接口中需要读取和搬迁,关于数据安全性的问题,也引发业界越来越多的关注。

在存储IP领域,Rambus的优势体现在,给客户提供一站式的存储、采购和交钥匙服务。在接口IP方面,Rambus已经收购了一家全球知名的控制器厂商Northwest Logic。可以为客户提供从PHY到controller一站式的打包服务,并在方案中尽可能的集成各种组件,简化和方便客户方的设计加快客户产品的上市时间。

对于安全领域,Rambus从三个方向着手:一、从芯片架构设计阶段加入安全设计;二、在零信任供应链中保证安全。三、在不信任安全环境中确保安全。据悉,Rambus收购了Verimatrix的安全IP团队,加上Rambus原有的安全团队,实现了业界最为广泛的安全IP产品,并具备全球领先的安全IP研发实力。

HBM2E和GDDR6助力AI和ML应用

中国已经成为全球人工智能发展最快的国家之一,2020年,中国AI市场规模将达到710亿人民币,2015到2020年中国AI市场的复合增长率达到44.5%,内存宽带是影响AI发展的关键因素。

带宽是AI发展的重要驱动因素,如何推动内存带宽的发展?Raymond Su认为,GDDR6和HBM2E是非常重要的两个利器,Rambus有信心通过在HBM2E和GDDR6的行业领先的地位助力中国人工智能迈向下一个发展的浪潮。

Rambus资深应用工程师曹汪洋分析指出,人工智能和机器学习现在逐渐流行起来,它的规模和复杂度每年呈10倍地增长。AI和ML对性能的需求非常高。在人工智能领域,,Rambus HBM2E的性能正式提高到4.0 Gbps每秒,4.0 Gbps是全新的行业标杆,我们一个开发过程中的合作伙伴就是SK海力士,Rambus提供的HBM2E内存实现了4Gbps的业界顶尖数据传输速率。

Rambus HBM2E和GDDR6方案速度实现全球最高的、最顶峰的水平,这给公司带来哪些独特优势呢?Rambus中国区总经理苏雷认为,这可以帮客户的方案设计提供足够裕量空间,保证整个系统的稳定性。例如燧原科技已经选择了Rambus作为下一代AI训练芯片的合作伙伴。

“燧原在下一代的人工智能训练芯片的产品当中,选择了Rambus的HBM2E解决方案。Rambus可靠的HBM2内存子系统IP提供了AI芯片所需的超高带宽性能,非常适合燧原科技的云AI培训需求。作为该接口IP的补充,Rambus还提供硅中介层和封装参考设计,并支持信号电源完整性 (SI/PI)分析。

据悉,除了最新发布的4 Gbps,台积电7纳米工艺生产的产品使用HBM2E之外,Rambus在11纳米,12纳米、14纳米等不同的工艺节点有不同的IP产品在市场上销售。

5G数据中心和边缘计算需要不同的内存接口解决方案

Rambus资深应用工程师曹汪洋指出,5G的边缘计算和数据中心,主内存明年开始过渡到DDR5,相比DDR4的16Gb,它的最大容量提升了4倍左右,可以达到64Gb。这些也都逐渐在提升数据的容量,不断的在对内存、对系统提出更高的性能要求,这些部分Rambus都有相关的产品提供。

在实际案例部分,Rambus分享了一个Soc案列,它里面包括6个HBM2E设备,能够总共支持像144G字节的容量,每个HBM2E的设备都能支持12个DRAM的堆叠。这个HBM2E子系统的解决方案,可以给客户提供高性能和大容量,来满足他们在高端应用上的各种需求。

中国市场对于边缘计算、AI芯片和服务器的内存需求都非常庞大。以边缘计算为例,Rambus有像C2C的SerDes,它首先能够保持高性能的数据传输,保证应用处理的实时性。在内存接口方面,有GDDR6和DDR的产品,它们仍然是基于传统PCB的解决方案,能够让客户根据具体的需求、具体的应用,在成本和性能中选择一个比较好的平衡点。

在数据中心和AI应用方面,Rambus是全球HBM IP技术的引领者。“在市场份额上排名第一,在全球范围内拥有50多个成功的客户案例。我们的方案是成熟稳定的,经得起市场的考验。我们所有的芯片从设计到原型到投产,不需要任何的设计返工,基本上所有的芯片都会实现一次成功。” Rambus中国区总经理苏雷表示。

本文由电子发烧友网原创,未经授权禁止转载。如需转载,请添加微信号elecfans999。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • IP
    IP
    +关注

    关注

    5

    文章

    1404

    浏览量

    148272
  • Rambus
    +关注

    关注

    0

    文章

    51

    浏览量

    18729
  • AI
    AI
    +关注

    关注

    87

    文章

    26443

    浏览量

    264041
  • GDDR6
    +关注

    关注

    0

    文章

    50

    浏览量

    11184
  • HBM2E
    +关注

    关注

    0

    文章

    4

    浏览量

    3294
收藏 人收藏

    评论

    相关推荐

    RambusGDDR7内存控制器IP满足AI应用需求

    据报道,该公司的 GDDR7 控制器采用 PAM3 信号,运行速度高达 40 Gbps,能为 GDDR7 存储器设备提供 160 GB/s 的吞吐量,相比其自身研发的GDDR6 控制器,提升了 67%。
    的头像 发表于 04-23 15:52 95次阅读

    什么是HBM3E内存Rambus HBM3E/3内存控制器内核

    Rambus HBM3E/3 内存控制器内核针对高带宽和低延迟进行了优化,以紧凑的外形和高能效的封装为人工智能训练提供了最大的性能和灵活性。
    发表于 03-20 14:12 549次阅读
    什么是<b class='flag-5'>HBM</b>3E<b class='flag-5'>内存</b>?<b class='flag-5'>Rambus</b> <b class='flag-5'>HBM</b>3E/3<b class='flag-5'>内存</b>控制器内核

    美光科技开始量产HBM3E高带宽内存解决方案

    美光科技股份有限公司(Micron Technology, Inc.)是全球内存与存储解决方案的领先供应商,近日宣布已经开始量产其HBM3E高带宽
    的头像 发表于 03-05 09:16 417次阅读

    深度解析HBM内存技术

    HBM作为基于3D堆栈工艺的高性能DRAM,打破内存带宽及功耗瓶颈HBM(High Bandwidth Memory)即高
    的头像 发表于 01-02 09:59 1671次阅读
    深度解析<b class='flag-5'>HBM</b><b class='flag-5'>内存</b>技术

    AI大模型不断拉高上限,内存控制器IP提早部署,力拱HBM3E的到来

    数据量、复杂度在增加,HBM内存被彻底带火。这种高带宽高速的内存十分适合于AI训练场景。最近,内存
    的头像 发表于 12-13 15:33 994次阅读
    <b class='flag-5'>AI</b>大模型不断拉高上限,<b class='flag-5'>内存</b>控制器IP提早部署,力拱<b class='flag-5'>HBM</b>3E的到来

    Rambus通过9.6 Gbps HBM3内存控制器IP大幅提升AI性能

    Gbps 的性能,可支持 HBM3 标准的持续演进。相比 HBM3 Gen1 6.4 Gbps 的数据速率,Rambus HBM3 内存
    的头像 发表于 12-07 14:16 362次阅读

    Rambus通过9.6 Gbps HBM3内存控制器IP大幅提升AI性能

    为增强AI/ML及其他高级数据中心工作负载打造的 Rambus 高性能内存 IP产品组合 高达9.6 Gbps的数据速率,支持HBM3内存
    发表于 12-07 11:01 129次阅读
     <b class='flag-5'>Rambus</b>通过9.6 Gbps <b class='flag-5'>HBM</b>3<b class='flag-5'>内存</b>控制器IP大幅提升<b class='flag-5'>AI</b>性能

    美光推出性能更出色的大容量高带宽内存 (HBM) 助力生成式人工智能创新

    (美光科技股份有限公司,纳斯达克股票代码:MU)今日宣布,公司已开始出样业界首款8层堆叠的24GB容量第二代HBM3内存,其带宽超过1.2TB/s,引脚速率超过9.2Gb/s,比当前市面上现有的
    的头像 发表于 08-01 15:38 524次阅读
    美光推出性能更出色的大容量高<b class='flag-5'>带宽</b><b class='flag-5'>内存</b> (<b class='flag-5'>HBM</b>) <b class='flag-5'>助力</b>生成式人工智能创新

    Rambus GDDR6 PHY 赋能AI服务器

    GDDR通常指的是用在显卡上的内存,本质上还是双倍速率同步动态随机存储器,它是为了设计高端显卡而特别设计的高性能 DDR 存储器规格,其有专属的工作频率、时钟频率、电压,因此与市面上标准的 DDR 存储器有所差异
    的头像 发表于 06-26 14:41 308次阅读
    <b class='flag-5'>Rambus</b> <b class='flag-5'>GDDR6</b> PHY 赋能<b class='flag-5'>AI</b>服务器

    缓解AI推理算力焦虑,高带宽GDDR6成杀手锏?

    Rambus IP 核产品营销高级总监 Frank Ferro 分享,AI 推理应用对带宽的需求通常在 200 到 500Gb/s 的范围之间波动,每一个 GDDR6 设备的
    的头像 发表于 06-02 15:49 319次阅读
    缓解<b class='flag-5'>AI</b>推理算力焦虑,高<b class='flag-5'>带宽</b><b class='flag-5'>GDDR6</b>成杀手锏?

    Rambus提升GDDR6带宽,以应对边缘计算挑战

    HBM(高带宽内存)于 2013 年推出,是一种高性能 3D 堆叠 SDRAM架构。如其名称所述,HBM最重要的是带宽更高,尽管
    的头像 发表于 05-29 09:34 335次阅读
    <b class='flag-5'>Rambus</b>提升<b class='flag-5'>GDDR6</b><b class='flag-5'>带宽</b>,以应对边缘计算挑战

    AI推理打造高达24Gb/s的GDDR6 PHY,Rambus全面支持中国市场的AI升级

    ,但对成本和功耗更为敏感。   在AI推理应用越来越多的趋势下,Rambus率先研判与推出GDDR6 IP产品组合。Rambus IP核产品营销高级总监Frank Ferro先生表示,
    的头像 发表于 05-26 16:38 1199次阅读
    为<b class='flag-5'>AI</b>推理打造高达24Gb/s的<b class='flag-5'>GDDR6</b> PHY,<b class='flag-5'>Rambus</b>全面支持中国市场的<b class='flag-5'>AI</b>升级

    HBM性能验证变得简单

    HBM2E(高带宽内存)是一种高性能 3D 堆叠 DRAM,用于高性能计算和图形加速器。它使用更少的功率,但比依赖DDR4或GDDR5内存
    的头像 发表于 05-26 10:24 505次阅读
    <b class='flag-5'>HBM</b>性能验证变得简单

    Rambus推出提升GDDR6内存接口性能的Rambus GDDR6

    凭借Rambus GDDR6 PHY所实现的新一级性能,设计人员可以为带宽要求极为苛刻的工作负载提供所需的带宽。和我们领先的HBM3
    的头像 发表于 05-17 14:22 587次阅读

    Rambus通过业界领先的24Gb/s GDDR6 PHY提升AI性能

    内存接口性能。Rambus GDDR6 PHY提供市场领先的数据传输速率,最高可达24 Gb/s,能够为每个GDDR6
    发表于 05-17 13:47 340次阅读