0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

探究GDDR6给FPGA带来的大带宽存储优势以及性能测试(上)

Achronix 来源:Achronix 作者:黄仑 2021-12-03 11:31 次阅读

1.概述

随着互联网时代的到来,人类所产生的数据发生了前所未有的、爆炸性的增长。IDC预测,全球数据总量将从2019年的45ZB增长到2025年的175ZB[1]。同时,全球数据中近30%将需要实时处理,因而带来了对FPGA硬件数据处理加速器的需求。如图1所示。

在这样的数据高速增长的情况下,用于传输数据的网络带宽和处理数据所需要的算力也必须急速增长。传统的CPU已经越来越不堪重负,所以用硬件加速来减轻CPU的负担是满足未来性能需求的重要发展方向。未来的硬件发展需求对于用于加速的硬件平台提出了越来越高的要求,可以概括为三个方面:算力、数据传输带宽和存储器带宽。Achronix的新一代采用台积电7nm工艺的Speedster 7t FPGA芯片根据未来硬件加速和网络加速的需求,在这三个方面都做了优化,消除了传统FPGA的瓶颈。下面我们重点说一说为了提高存储器带宽,Achronix通过采用硬核GDDR6控制器所带来的优势。2.

GDDR6的发展

在GDDR的设计之初,其定位是针对图形显示卡所特别优化的一种DDR内存。因为2000年后电脑游戏特别是3D游戏的发展和火爆,使运行电脑游戏的显卡需要有大量的高速图像数据交互需求,GDDR在这种情况下应运而生。第一个GDDR标准是基于DDR的GDDR2,随后发展到了基于DDR3的GDDR5,在一段时间中非常流行。

2016年,GDDR5X正式发布,它引入了具有16n预取的四倍数据速率模式,但代价是访问粒度从GDDR5的32Byte提高到了64Byte。2018年,GDDR6发布,数据速率达到了16Gbps,带宽几乎是GDDR5X的两倍,同时采用了双通道设计,访问粒度和GDDR5一样是32Byte。

3.GDDR6和DDR4/5的比较

GDDR一直以来是针对图形显示卡所优化的一种DDR内存。因为显卡处理图像数据,特别是3D图像数据对显存带宽的要求更高,GPU和GDDR之间的数据交换非常频繁。而DDR内存专注于与CPU进行数据交换的效率,因此对于整体存取性能、低延迟更为看重,所以在CPU和传统的FPGA中基本都是用DDR4。

随着硬件加速需求对于存储器的带宽提出了越来越高的要求,传统的DDR4带宽显然已经无法满足要求,Achronix看重了GDDR6在数据存储中的带宽优势,创新地将GDDR6引入到了FPGA,彻底解决了传统FPGA存储带宽不够的瓶颈。2020年7月15日,JEDEC存储协会正式发布了DDR5 SDRAM的标准(JESD79-5),内存的频率相对DDR4的标准频率有了大幅的提升,总传输带宽也提升了38%,但是还是和GDDR6的带宽有一定的差距。GDDR6和DDR4/5的带宽对比。

473c6de8-52b8-11ec-b2e9-dac502259ad0.png

图2 GDDR与DDR带宽发展对比

如果实现同一个大带宽存储的应用,在提供相同的存储器带宽的情况下,无论在设计复杂度,PCB占用面积,还是在功耗方面,与DDR4相比,GDDR6的性能都有很大的提高,如图3所示[2]。

476b1eae-52b8-11ec-b2e9-dac502259ad0.png

图3 GDDR6和DDR4性能对比4.

GDDR6和HBM2的比较

HBM全称High Bandwidth Memory,最初的标准是由JEDEC在2013年发布。2016年1月,HBM的第二代HBM2正式成为工业标准。HBM的出现也是为了解决存储器带宽问题。与GDDR6不同的是,HBM内存一般是由4个或者8个HBM的Die堆叠形成,我们称之为一个Stack。如图4所示[4]。

4793243a-52b8-11ec-b2e9-dac502259ad0.png

图4 HBM Die的堆叠

我们以市面上带有HBM2的高端 FPGA为例,这个系列的FPGA集成了1~2个这样的HBM2 Stack。两个Stack之间是相互独立的,各自有自己的地址空间。

每个Die都有独立的两个128bit的Channel,所以4个Die 8个通道就是1024bit的位宽,HBM2的频率是900MHz,按DDR的方式访问,一个Stack总共带宽是 900(MHz)x 2(DDR)x 1024(位宽)/8 = 230GB/s,两个Stack最高可以到460GB/s的带宽。

Achronix的Speedster 7t FPGA集成了8个GDDR6的硬核,每个GDDR6的硬核支持双通道。总的带宽是 16Gbps x 16(位宽)x 2(通道)x 8(控制器)/8 = 512 GB/s,略高于带HBM2的FPGA存储器带宽。

从成本上来看,目前GDDR6与HBM2相比有着很大的优势,HBM2技术工艺要求高,目前芯片的良率和产量都会受到很大的影响。同时GDDR6使用起来更灵活,使用片外的DRAM,可以根据应用要求,选择不同速率,不同容量的GDDR6颗粒。HBM2的优势在于集成度高,不占用PCB板的面积。图5是DDR4、GDDR6和HBM2在成本上的一个综合比较。

编辑:jq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • FPGA
    +关注

    关注

    1593

    文章

    21211

    浏览量

    592196
  • 存储器
    +关注

    关注

    38

    文章

    7083

    浏览量

    161697
  • 带宽
    +关注

    关注

    3

    文章

    813

    浏览量

    39926
  • HBM
    HBM
    +关注

    关注

    0

    文章

    214

    浏览量

    14367

原文标题:GDDR6给FPGA带来的大带宽存储优势以及性能测试(上)

文章出处:【微信号:Achronix,微信公众号:Achronix】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    下一代高端显卡标配,容量和速度双翻倍的GDDR7登场!

    电子发烧友网报道(文/周凯扬)要说起GPU的话,对其性能的一部分定义在其处理单元上,比如英伟达的CUDA核心,或是AMD的CU等。然而还有一部分决定性能的因素在其片上VRAM上,这些内存不仅需要存储
    的头像 发表于 03-08 09:04 1184次阅读
    下一代高端显卡标配,容量和速度双翻倍的<b class='flag-5'>GDDR</b>7登场!

    三星将展示16Gb GDDR7技术,重点关注PAM3优化TRX均衡和ZQ校准

    该款高性能的 DRAM 采用 PAM3 编码技术,兼具 PAM4 和 NRZ 的优点,相较于 NRZ,它能够以更高的数据传输率运行,且无需过高的内存总线频率,表现优于 GDDR6,能耗及成本则低于 GDDR6X。
    的头像 发表于 01-29 10:13 266次阅读

    利用搭载全域硬2D NoC的FPGA器件去完美实现智能化所需的高带宽低延迟计算

    在该FPGA器件的外围,这个硬2D NoC连接到所有高速接口:包括多个400G以太网、PCIe Gen5、GDDR6和DDR4/5端口。这使得Achronix的Speedster7t成为了业界第一款
    的头像 发表于 11-24 16:19 192次阅读

    Artix-7 FPGA:成本优化器件中的性能带宽

    电子发烧友网站提供《Artix-7 FPGA:成本优化器件中的性能带宽.pdf》资料免费下载
    发表于 09-18 10:07 0次下载
    Artix-7 <b class='flag-5'>FPGA</b>:成本优化器件中的<b class='flag-5'>性能</b>和<b class='flag-5'>带宽</b>

    三星开发出业界首款GDDR7 DRAM显存

    与目前的GDDR6 DRAM相比,GDDR7的每引脚带宽从24Gbps提升至32Gbps,总带宽可达1.5TB/s。这款新产品采用了脉冲幅度调制(PAM3)信令的方法,取代了前几代产品
    发表于 07-24 11:09 198次阅读

    【机器视觉】欢创播报 | 三星开发出业界首款GDDR7显存

    行验证。与目前的GDDR6 DRAM相比,GDDR7的每引脚带宽从24Gbps提升至32Gbps,总带宽可达1.5TB/s。这款新产品采用了脉冲幅度调制(PAM3)信令的方法,取代了前
    的头像 发表于 07-20 11:27 504次阅读
    【机器视觉】欢创播报 | 三星开发出业界首款<b class='flag-5'>GDDR</b>7显存

    三星推出其首款GDDR7 释放下一代显存性能潜力

    三星最新32Gbps GDDR7将进一步强化人工智能、高性能计算和汽车等的应用能力 与上一代24Gbps GDDR6 相比,GDDR7性能
    的头像 发表于 07-19 10:27 792次阅读

    Rambus GDDR6 PHY 赋能AI服务器

    GDDR通常指的是用在显卡上的内存,本质上还是双倍速率同步动态随机存储器,它是为了设计高端显卡而特别设计的高性能 DDR 存储器规格,其有专属的工作频率、时钟频率、电压,因此与市面上
    的头像 发表于 06-26 14:41 294次阅读
    Rambus <b class='flag-5'>GDDR6</b> PHY 赋能AI服务器

    AI时代,谁能比GDDR性能更高?

    DDR存储器的设计延迟极低,它的目的是尽可能快地传输少量缓存数据,来配合CPU进行串行计算。而显卡多为并行任务,有大量重复存取需求,但它对于延时的要求没有CPU那么高。于是,具有更大带宽和更高频率的GDDR出现了。
    发表于 06-09 11:50 169次阅读
    AI时代,谁能比<b class='flag-5'>GDDR</b><b class='flag-5'>性能</b>更高?

    缓解AI推理算力焦虑,高带宽GDDR6成杀手锏?

    据 Rambus IP 核产品营销高级总监 Frank Ferro 分享,AI 推理应用对带宽的需求通常在 200 到 500Gb/s 的范围之间波动,每一个 GDDR6 设备的带宽都可以达到
    的头像 发表于 06-02 15:49 293次阅读
    缓解AI推理算力焦虑,高<b class='flag-5'>带宽</b><b class='flag-5'>GDDR6</b>成杀手锏?

    Rambus提升GDDR6带宽,以应对边缘计算挑战

    HBM(高带宽内存)于 2013 年推出,是一种高性能 3D 堆叠 SDRAM架构。如其名称所述,HBM最重要的是带宽更高,尽管HBM的内存都以相对较低的数据速率运行,但其通道数更多。例如,以3.6
    的头像 发表于 05-29 09:34 315次阅读
    Rambus提升<b class='flag-5'>GDDR6</b><b class='flag-5'>带宽</b>,以应对边缘计算挑战

    为AI推理打造高达24Gb/s的GDDR6 PHY,Rambus全面支持中国市场的AI升级

    ,但对成本和功耗更为敏感。   在AI推理应用越来越多的趋势下,Rambus率先研判与推出GDDR6 IP产品组合。Rambus IP核产品营销高级总监Frank Ferro先生表示,作为更加理想的方案,GDDR6有着高带宽
    的头像 发表于 05-26 16:38 1163次阅读
    为AI推理打造高达24Gb/s的<b class='flag-5'>GDDR6</b> PHY,Rambus全面支持中国市场的AI升级

    Rambus推出提升GDDR6内存接口性能的Rambus GDDR6

    凭借Rambus GDDR6 PHY所实现的新一级性能,设计人员可以为带宽要求极为苛刻的工作负载提供所需的带宽。和我们领先的HBM3内存接口一样,这项最新成就表明了我们不断致力于开发最
    的头像 发表于 05-17 14:22 561次阅读

    Rambus通过业界领先的24Gb/s GDDR6 PHY提升AI性能

    内存接口性能。Rambus GDDR6 PHY提供市场领先的数据传输速率,最高可达24 Gb/s,能够为每个GDDR6内存设备带来96 GB/s的
    发表于 05-17 13:47 321次阅读

    GPT模型推动存储厂商加速PIM进程

    SK海力士在近期提出了他们的首个PIM方案,AiM。AiM是一个基于GDDR6的存内计算方案,专门为了加速内存负载密集的机器学习应用而设计。而GDDR6作为当下GPU产品的主要显存形式之一,提供了足够的带宽,但并没有提供额外的计
    的头像 发表于 04-10 10:56 543次阅读