赋能AI系统：内存创新助力释放AI 2.0的强大潜力

作者：Rambus研究员与杰出发明家Steven Woo

根据IDC预测，中国在人工智能领域的投资预计到2027年将达到381亿美元，占全球总投资的近9%。作为全球人工智能的重要参与者，中国正加速在汽车、通信、医疗、金融等多个行业应用和发展生成式AI技术，全面迈入“AI 2.0”时代。

人工智能这一概念是由约翰·麦卡锡（John McCarthy）在1956年提出。此后数十年间，科学家们投入了巨大努力，让AI不断变得更智能，但其能力仍主要局限于在特定输入输出范围内进行分析与预测（例如：从文本生成网页结果）。而新一代人工智能则带来了重大范式转变——它能够基于数据生成全新的内容。

和上一代不同，AI 2.0 依托多模态输入与输出，在文本、语音、代码、图像、视频，甚至三维模型等多种媒介之间实现无缝交互。大型语言模型（LLMs）的出现，也是这一时代的重要标志。LLMs能够处理和生成海量数据，正在不断突破以往的技术边界，让更复杂、更先进的AI应用在各行各业成为可能。

训练大型语言模型（LLMs）是一个复杂的多步骤过程，首先需要收集用于训练的数据。数据收集完成后，还需经过分析、处理和清理，才能进入训练阶段。如何实现海量数据的高速传输与存储，已经成为整个行业面临的重大挑战，更不用说训练所需的数据规模还在持续增长。以ChatGPT为例，GPT-3的参数量为1750亿，而GPT-4则高达1.76万亿，几乎所有AI公司都在不断扩大模型的训练参数。

在完成训练过程后，AI模型便会生成，并可用于执行推理。相比训练，推理对内存的要求相对较低。然而，随着AI逐渐普及，越来越多的应用正从数据中心向边缘和终端延伸，这对现有的内存系统在带宽、延迟和容量等方面提出了更高的要求。

为应对这些重大挑战并解决 AI 2.0 的内存瓶颈，业界已提出了许多创新性技术方案，包括多路复用内存、串行连接内存、新型编码方案以及全新的模块形态。这些创新有望应用于现有内存解决方案，为先进的 AI 工作负载带来更高的性能表现。

其中一个前景广阔的解决方案是多路复用内存。正在进入市场的 DDR5 MRDIMMs 采用复用技术，在沿用现有 DRAM 的同时，有效地将数据传输速率提升一倍，从而突破了传统 DRAM 在扩展上的限制。另一种提升路径是串行连接内存。在 CXL 技术的支持下，这一方式能够实现缓存一致性的内存共享，并通过采用串行而非并行的数据传输，大幅提升容量与带宽。

此外，新型编码方案也可应用于部分内存模块。例如，GDDR7 采用三阶脉冲幅度调制（PAM3）编码，数据传输速率最高可达 48Gbps，能够支持高性能的边缘与终端 AI 应用。模块形态的创新同样在内存容量扩展中发挥关键作用。低功耗压缩附加内存模块（LPCAMM）便是其中的典型代表，其专为在空间受限的设备（如笔记本电脑）中扩展 LPDDR 内存的性能与应用而设计。

除了性能和容量的提升之外，RAS（可靠性、可用性和可维护性）在内存领域也变得愈发重要。随着内存芯片的数据传输速率不断提高，单元尺寸持续缩小，以便在一颗芯片中容纳更多比特。但单元缩小也带来了新的挑战，例如芯片内错误（on-die errors），这就需要更强大的纠错机制。此外，像 RowHammer 和 RowPress 这样的现象——即访问特定单元时可能干扰相邻区域的单元——也亟需进一步的缓解策略。

还需要关注一些相关的发展。量子计算时代即将到来，现有的非对称加密将面临被破解的风险，因此无论是 AI 数据还是硬件，都需要通过新一代的抗量子加密技术（Quantum Safe Cryptography）来保护。

同时，训练和推理AI所需的能耗问题也正日益受到关注。对此，业内各方正积极采取行动来应对这一挑战。从内存角度来看，行业正持续通过降低工作电压和优化设计架构来提升能效。电源管理IC（PMIC）将成为在既定功耗范围内实现更高性能的关键一环。

随着 AI 模型日益复杂，对内存的需求也将更加严苛。AI 2.0将重塑各行各业，从个性化体验到行业专属解决方案，在整个计算领域（云端、边缘、终端）全面掀起浪潮，进而推动对更高性能内存解决方案的强劲需求。

作为业内领先的芯片与半导体IP供应商，Rambus 致力于推动数据中心互联，解决内存与处理器之间的瓶颈问题，从而支持大型语言模型（LLMs）及先进AI应用的发展。Rambus 的全方位产品组合——包括 DDR5 DIMM 芯片组、HBM3/3E 控制器 IP、GDDR7、PCIe 6.1、CXL 3.1，以及 LPDDR5T/5X/5 等——为这些高负载的 AI 工作提供所需的速度、容量与连接能力。

在 AI 2.0 的演进过程中，Rambus 在内存接口芯片、内存接口 IP 以及安全 IP 解决方案方面的专长，将成为不断突破技术边界的重要推动力。展望未来，Rambus 将持续携手产业伙伴，共同开发前沿的内存解决方案，释放 AI 技术的全部潜能。