大模型非GPU专属 AMD EPYC秀出CPU AI实力

12月6日，amd在加利福尼亚州圣何塞举行的“advancing ai”活动中发布了一系列创新产品，包括mi300、Ryzen ai pc处理器。作为amd未来发展的关键，amd试图在所有产品线上实现ai功能，从大规模数据中心训练和推理解决方案到面向消费者的电脑和游戏体验。

amd在高性能计算（hpc）和数据中心领域显示出持续的领导能力。amd epyc处理器和amd instinct加速器仍然是世界上许多最创新、最节能、最快的超级计算机的基本解决方案。

根据世界超级计算机排名第62届top500，全体500个超级电脑套装的amd平台为140个，比前年增加了39%。此外，amd根据green500的最新名单，为世界上能源效率最高的10台超级计算机中的8台提供了电力。

目前，橡树国家实验室使用amd epyc处理器和安装加速器驱动最先进的超级计算机，劳伦斯利弗莫尔国家实验室也开始安装超大型超级计算机el capitan。

今天amd发布了第一个ai/hpc数据中心apu——mi300a，并将zen3 cpu和cdna3 gpu整合到一个芯片中，使用了hbm3内存和第四代infinity fabric高速总线的相互连接。这样可以简化结构，简化程序设计。

据amd介绍，apu具有充分利用集成架构优势的性能潜力。统一内存，统一内存，共享的infinity母线技术，动态功耗分布及程序设计上的便利性等。

由于这些优点，mi300a在openfoam上的工作效率是h100的4倍。peakhpc每瓦的性能比gh200高出2倍。

在hpc等性能上也与h100相似或领先。随着mi300a的增加，El Capitan将成为世界上第一台具备2 exaplop（100亿次）分配密度的超级电脑，同时也将成为世界上最快的超级计算机。

此外，EPYC本身也能够具备强大的AI能力。在今年6月份举办的“数据中心与AI技术首映”上，AMD针对云原生负载进行了优化，带来了以吞吐量为导向，拥有最高终端密度和效率的AMD EPYC 9704处理器“Bergamo”，以及面向技术计算领域的Genoa-X。其中，Genoa-X的亮点包括领先的5nm工艺节点技术、高达96个高性能Zen4核心、高达1.1GB的L3 Cache，兼容SP5插槽等，可以在Ansys CFX中每天完成更多的设计任务，从而大幅加速产品开发。

在今日活动的演示现场，记者看到采用 AMD EPYC 9654处理器运行Llama 2大语言模型的展示，在同竞品Xeon Platinum 8480的对比中，处理运行速度提升36%。这意味着，在某些场景下，依靠CPU提供的AI算力也能够进行大模型处理，而非仅依靠GPU，这对于具有较少GPU资源的企业而言非常具有吸引力，也带来了成本上的节省。