DRAM的类型及其访问方式成为设计中心的考虑因素

在芯片设计阶段慎重考虑所使用的DRAM的类型及其访问方式在实现性能优化方面越来越重要。

现阶段芯片制造商在努力解决芯片上或封装中的问题，正在更加关注DRAM，将附加内存视为一个关键的设计元素，而这可能会影响系统性能、功率和成本。普遍的共识是，如果要达到每瓦特处理更多数据所需的更高的性能水平，就必须提高能效。在给定的功率预算内，所使用的DRAM的类型及其访问方式在实现性能目标方面发挥着越来越重要的作用。

“如何降低功率是在保持信号的完整性和达到所需的性能水平同时提高能效的问题。”Rambus的科学家说。以前只用于一种类型的内存，但现在多通道已经在市场上实现。目前市场主要的问题是围绕着什么概念被借用到其他类型的内存中，以及低功耗市场将如何开始影响主内存。低功耗工程团队一直专注于试图节省性能开销，并保持在一定的功率范围内。“鉴于DRAM都基于相同的供电技术，所以问题的关键是如何优化周围的一切，如何优化低功耗环境，以及如何优化高性能环境。”

瑞萨半导体副总裁兼总经理拉米·塞西对此表示同意。“人们普遍承认DDR总线在支持多时隙配置方面的能力将随着时间的推移而变得越来越困难。当你以每秒6、7、8GB的传输速度运行这种宽并行伪差分总线时，首先你将失去第二个时隙，在这些速度下的多插槽配置也无法支持。当这种情况发生时，产品的记忆容量实际上减少了一半。DRAM扩展和密度增加将弥补其中的一些不足，用户可以继续向内存控制器添加越来越多的通道。但最终这将失去动力，这种方法无法提供所需的增量容量。”

西门子EDA负责数字设计实施的技术产品管理总监Stuart Clubb也指出了类似的趋势。几年前，英伟达发表的一份能源成本比较报告显示，通过同样的计算工作，使用主存(特别是DRAM)与本地CPU寄存器的能源成本大约要高出200倍。过去的其他论文也详细描述了1级缓存和主存之间的功率成本近20倍的差异。”

此外，随着功率和能量成为更重要的产品指标，使用特定于应用程序的加速器来补充通用计算资源的情况正在增加。

Clubb说：“无论是内存处理、计算存储、SoC或PCI服务器端基于总线的加速器，还是在线预处理上，对降低主内存相关能源成本的高效硬件的需求都在增长。客户需要针对特定任务构建专门的加速器，以实现低能耗。虽然传统的RTL功率估计和优化工具可以帮助进行一般的RTL设计工作，但在这个加速器空间中，高级合成的使用有所上升。具有本地化低功耗内存解决方案的定制加速器的优点是，在不使用时，客户可以完全关闭它们，这是CPU/GPU/NPU类型的解决方案无法做到的。无论如何尝试优化主内存架构，数据移动的能源成本可能都是客户真正想要尽可能避免的。”这是Compute Express Link（CPU到内存互连规范）的主要驱动程序之一。“CXL基本上允许串行连接，”瑞萨的Sethi说。“业界正在减少所需的管脚数量，可以将基于CXL的模块放在离CPU更远的地方，并且具有比直接与DDR连接更好的扩展性。这些模块看起来更像存储设备、SSD或PCIe插件，因此可以获得更高的密度。然后，CXL还为缓存连接等提供了许多协议挂钩，它允许DRAM看起来更像直接连接的DRAM，或者至少像非均匀内存访问（NUMA）方式的DRAM访问。”

反过来，这需要更多地考虑如何构建内存，以及使用哪种类型的内存。马克指出：“当人们在内存之间进行选择时，例如DDR和LPDDR，实际上，有些东西在很长一段时间内都会成为DDR。如果你要构建一个大型服务器，你可能会用DDR构建内存。如果你要设计一个手机，你可能会用LPDDR构建内存。”Cadence产品营销、DDR、HBM、闪存/存储和MIPI IP的集团总监Greenberg说到。“然而，差异并不那么明显。在过去五年里，它变得越来越模糊，例如，LPDDR被用于传统上可能完全属于DDR内存的地方。”

“DDR内存的优点之一是可以添加容量，因此，如果你想添加更多的存储，在大多数情况下，DDR是实现这一点的方法。LPDDR内存提供的是一定范围的内存密度。我们看到LPDDR内存开始通过各种机器学习/人工智能加速器进入服务器领域。”

每种内存类型都有许多属性，从接口上可以放置多少容量到添加容量的容易程度以及支持多少带宽。还有电力和企业可靠性标准需要考虑。Greenberg指出，在某些情况下，LPDDR比DDR内存更好地满足某些类型系统的要求，即使它是传统的DDR类型的应用程序。

Keysight Technologies内存解决方案项目经理兰迪·怀特认为，或多或少有两种选择——DDR或LPDDR，HBM和GDDR被用于更专业的设计中。“除非你专注于一个小众应用程序，否则真正的选择可以归结为两种。DDR可能是数据中心和台式机之间内存容量的60%到70%。LPDDR是30%或更多，这一数字正在增长，因为它跟踪了从手机引入其他移动设备的新产品的数量。同时，LPDDR往往比主流DDR领先一个百分点。多年来都是这样，为什么LPDDR总是突破极限，也总是提前发布规格？这是因为手机是目标市场，而这也有大量的商机。

怀特说，这一决定取决于两件事——容量和应用程序。“你需要超过64GB的内存吗？一部手机或一个移动应用程序需要16GB到32GB的系统内存。这与所有视频和文件的存储不同。你为此付出了很多钱，买手机的时候手机厂商还会让你选，但系统内存是固定的，但你很少注意。对于手机来说，你感觉真的不需要那个内存。”一台运行数千台虚拟机、进行金融交易、工程、数据库查询或Netflix流媒体的服务器需要TB级或更大的内存。这是第一选择标准。你又想要多少呢？”

第二个考虑因素是它的发展方向。怀特说：“你想要的是什么？服务器需要大量内存，所以它们有许多DIMM插槽。但是你要如何将64GB、多个内存芯片放入一部手机？对于手机、显示器、电池和处理器来说，空间的限制是不同的。”

另一个考虑因素涉及移动设计的演变。“你需要更多的计算能力，需要更多的内存，但空间正在缩小，你如何应对？这是一个非常吸引人的趋势。处理器和内存本身之间的集成度要高得多。如果看看5年或10年前的一款旧手机，处理器位于主板的一部分，然后信号被发送到可能是一英寸或两英寸的主板 ，然后到内存组件，然后信号来回传递。现在我们看到了芯片堆叠对封装产生的趋势。现在你可以叠加到16个，这就是为什么你得到32GB或更多的空间，因为这些内存芯片不超过2GB或4GB。集成度越来越高，空间也越来越大，速度也越来越快，如果不在电路板上传输那么远的话，无法获得更好的信号完整性。

同时，这并不意味着系统架构师更容易进行权衡。事实上，工程团队在DDR、LPDDR、GDDR6甚至HBM之间多次改变主意并不罕见，Cadence的Greenberg也提醒到。

他说：“人们会在这些决定之间来回尝试，权衡所有选择，看看结果如何，有时在评估一段时间后会改变类型。他们通常会做系统级建模，他们会有一个视图和神经网络的模型，以及内存接口和内存本身的模型。工程师会在它上面运行流量，看看它看起来如何，并获得性能评估。然后他们会看看每个要消耗多少成本。但是，使用HBM内存也有很多相关成本，因此工程团队可以从HBM开始，运行模拟，当所有模拟看起来都很好时，他们将确认需要为连接HBM的芯片支付多少费用。然后他们将开始研究其他技术。HBM确实以价格提供了出色的性能。但是你想不想付出这个代价？有些应用程序需要HBM，而这些设备最终将达到一个价格点，在这个价格点上，它们可以证明内存使用是合理的。但还有很多其他设备不需要那么多性能，在某些情况下，它们可以归结为GDDR6、LPDDR5和DDR5。”

图1：GDDR6 16G数据眼与通道效应的模拟。

此外，当重点放在低功耗上时，假设LPDDR是无与伦比的是不对的。“真正的低功耗内存是HBM，”Synopsys产品营销高级经理格雷厄姆·艾伦说。HBM是最终的点对点，因为它在同一个封装中，在某种形式的插入器上。在SoC上的物理接口和DRAM上的物理接口之间有一条很短的路径，它不会消耗任何终端电源。如果你看看能耗，你会发现HBM的功率效率是所有DRAM中最好的。因此，HBM确实是最终的低功耗DRAM。

另一种减少功率的方法是将DRAM的核心电源与I/O分开，这是内存在历史上所没有利用的。比如LPDDR4和LPDDR4x之间的主要区别是从DRAM获取电源并将其切断，也就是一个电源用于输入/输出，一个电源用于DRAM。”

“对于主机来说，不幸的是，如果是为LPDDR4设计的，那么需要把LPDDR4信号输出到DRAM。如果是LPDDR4x DRAM，你会说，‘这些信号对我来说有点太强，电压太高。我不能保证我的长期可靠性不受你给我的影响。因此，从技术上讲，您违反了DRAM的超调/欠调规格。”你必须经历一个转变的过程。我们的客户正在寻求有关DDR4到LPDDR4x的帮助。归根结底，这没省多少电。对于整个子系统的节能来说，可能在15%的范围内。这是因为DRAM的核心需要大量电力，这不会改变电力供应链，所以也不会改变它们的工作方式。只需更改输入/输出的电压，以通过总线传输数据。在SoC上的物理层中不光可以这样做，在DRAM上的物理层中也能这样做。现在有趣的是，当我们从HBM2和HBM2e转换到HBM3时，我们已经从HBM2e的普通1.2伏电压转换为HBM3上I/O的0.4伏工作电源，因此我们将其减少了三分之一。这节省了大量电力，尤其是当有1024台这样的机器一起运行时。”

就可靠性问题 Rambus表示，与上述所有考虑相比，人们越来越担心系统的可靠性。“可靠性正成为一个越来越突出的一流设计参数。在较小的工艺几何图形中，事情会变得更加复杂，事情会产生干扰，设备的可靠性变得困难。我们看到刷新时间/刷新间隔在下降，因为电容式电池越来越小。这些都反映了可靠性变得越来越重要。问题是，随着完整性变得更具挑战性，这些DRAM的架构如何变化？是更多的ECC还是类似的东西？”

那么，接下来会发生什么呢？这个行业将如何向前发展呢？吴宇说：“我们倾向于看到在组件级别上出现的问题真正具有挑战性，要么是因为技术上很困难，要么是因为非常昂贵。”“我们倾向于看到这些问题被拉到系统层面，而人们则试图在系统层面找到解决这些问题的方法。”

审核编辑 ：李倩