IBM全新AIU芯片：5nm工艺，230亿晶体管！深度学习处理性能强劲！

电子发烧友网报道（文/李弯弯）不久前，IBM 研究院推出了一款AI处理器，名为人工智能单元（Artificial Intelligent Unit，AIU），这是IBM首个用于运行和训练深度学习模型的完整 SoC。IBM声称，其比通用CPU工作更快、更高效。

AIU：32个处理器核心、230亿个晶体管

这款AIU芯片是IBM研究院AI硬件中心投入五年开发出的结果，AI硬件中心于2019年启动，专注于开发下一代芯片与AI系统。该中心的目标是，计划未来每年将AI硬件效率提升2.5倍。到2029年，将AI模型的训练和运行速度拉高1000倍。

据IBM介绍，该芯片采用5nm制程工艺，共有32个处理器核心和230亿个晶体管，在设计易用性方面，与普通显卡相当，能够介入任何带有PCI插槽的计算机或服务器。AIU芯片，旨在支持多种格式并简化从图像识别到自然语言处理的人工智能工作流程。

AIU芯片与传统用于训练的GPU芯片有何不同？一直以来，深度学习模型依赖于CPU加GPU协处理器的组合进行训练与运行。GPU最初是为沉浸图形图像而开发，后来人们发现其在AI领域有着显著优势，因此GPU在AI训练领域占据了非常重要的位置。

IBM开发的AIU并非图形处理器，它是专为深度学习模型加速设计的，针对矩阵和矢量计算进行了优化。AIU能够解决高复杂计算问题，并以远超CPU的速度执行数据分析。

AIU芯片有何特点呢？过去这些年，AI与深度学习模型在各行各业中快速普及，同时深度学习的发展也给算力资源带来了巨大的压力。深度学习模型的体量越来越大，包含数十亿甚至数万亿个参数。而硬件效率的发展却似乎跟不上深度学习模型的增长速度。

过去，计算一般集中在高精度64位与32位浮点运算层面。IBM认为，有些计算任务并不需要这样的精度，于是提出了降低传统计算精度的新术语——近似计算。

如何理解呢？IBM认为对于常见的深度学习任务，其实并不需要那么高的计算精度，就比如说人类大脑，即使没有高分辨率，也能够分辨出家人或者小猫。也就是说各种任务，其实都可以通过近似计算来处理。

在AIU芯片的设计中，近似计算发挥着重要作用。IBM研究人员设计的AIU芯片精度低于CPU，而这种较低精度也让新型AIU硬件加速器获得了更高的计算密度。IBM使用混合8位浮点（HFP）计算，而非AI训练中常见的32位或16点浮点计算。由于精度较低，因此该芯片的运算执行速度可达到FP16的2倍，同时继续保持类似的训练效能。

IBM在AI芯片技术上的不断升级

在去年2月的国际固态电路会议（ISSCC 2021）上，IBM也曾发布过一款性能优异的AI芯片，据IBM称它是当时全球首款高能效AI芯片，采用7nm制程工艺，可达到80%以上的训练利用率和60%以上的推理利用率，而通常情况下，GPU的利用率在30%以下。

有对比数据显示，IBM 7nm高能效AI芯片的性能和能效，不同程度地超过了IBM此前推出的14nm芯片、韩国科学院（KAIST）推出的65nm芯片、平头哥推出的12nm芯片含光800、NVIDIA推出的7nm芯片A100、联发科推出的7nm芯片。

IBM去年推出的这款7nm AI芯片支持fp8、fp16、fp32、int4、int2混合精度。在fp32和fp8精度下，这款芯片每秒浮点运算次数分别达到16TFLOPS和25.6TFLOPS，能效比为3.5TFLOPS/W和1.9TFLOPS。而被业界高度认可的NVIDIA A100 GPU在fp16精度下的能效比为0.78TFLOPS/W，低于IBM这款高能效AI芯片。

IBM在官网中称，这款AI芯片之所以能够兼顾能效和性能，是因为该芯片支持超低精度混合8位浮点格式（(HFP8，hybrid FP8）。这是IBM于2019年发布的一种高度优化设计，允许AI芯片在低精度下完成训练任务和不同AI模型的推理任务，同时避免任何质量损失。

可以看到IBM此次发布的新款AIU与去年2月发布的7nm AI芯片，都采用了IBM此前提出的近似计算。从性能来看，去年推出的那款AI芯片一定程度上甚至超过了目前业界训练场景普遍使用的NVIDIA A100 GPU，而今年新推出的AIU无论是在制程工艺、晶体管数量上都有升级，可想而知性能水平将会更高。