比肩HBM，SOCAMM内存模组即将商业化

电子发烧友网综合报道，SOCAMM即Space - Optimized CAMM（空间优化内存模组技术），是由英伟达主导研发的面向AI计算、HPC、数据中心等领域的高密度内存解决方案。如今AI大模型参数规模达数百亿甚至万亿级别，带来巨大内存需求，但HBM内存价格高昂，只应用在高端算力卡上。SOCAMM则有望应用于AI服务器、高性能计算、AI PC以及其他如游戏、图形设计、虚拟现实等领域。

SOCAMM利用高I/O密度和先进封装实现极高带宽，有694个I/O端口，远超传统内存模块（如DDR5的64 - 128个），采用3D封装技术实现高密度互连，提供接近于HBM3的带宽。接口基于LPDDR5X，理论带宽可达6TB/s，已接近HBM3水平。

基于LPDDR5本身具备的低功耗特性，集成高效的电压调节单元，可根据工作负载实时调整供电策略，尽可能降低能耗，能效水平相比HBM3甚至是GDDR6X更高。

另外，模块体积接近成人中指大小，尺寸仅为行业标准DDR5 RDIMM的约1/3。可以推测其采用了chiplet设计和混合键合技术，将DRAM裸片与逻辑控制器集成在单一封装内。同时，它还采用可拆卸设计，便于用户对内存模块进行灵活升级和更换，解决了传统板载内存成本高昂、缺乏灵活性和不支持升级的问题。

目前，英伟达正在与三星、SK海力士、美光等存储巨头合作，推动SOCAMM内存标准的商业化落地。美光已在2025年3月表示SOCAMM解决方案已实现量产，其通过使用4颗16 - die堆叠的16Gb LPDDR5X颗粒，实现128GB容量，结合128 - bit位宽和8533MT/s速率，为更快的AI模型训练和更高的推理并发用户量提供了关键支持。

SK海力士也在英伟达GTC大会上展示了SOCAMM，其单模块容量128GB，由容量为32GB的4颗芯片组成，采用16颗16Gb LPDDR5X记忆体芯片封装，并采用线键合工艺，数据传输带宽为120GB/s。EBN报告指出，英伟达与内存制造商正在交换SOCAMM原型进行测试，并预计在2025年底开始大规模生产。

不过，近日韩媒表报道称，英伟达已向内存原厂通知SOCAMM这一新外形规格的内存模组将不在GB300世代导入，需要等到Rubin时期才会商业化。

SOCAM是英伟达 GB300 Superchip 原定的改进型 Cordelia 主板设计的一部分。但由于GPU子板信号稳定性、以及SOCAMM 的散热可靠性等问题，英伟达最终决定在GB300主板设计上沿用成熟的 Bianca形式。

SOCAMM作为新一代内存技术，需要与其他硬件和软件系统保持良好的兼容性，以确保其能够顺利应用于各种设备和场景中。同时，SOCAMM还需标准化，以确保不同厂商生产的SOCAMM模块之间能够互换使用，降低用户的更换和升级成本。