AIGC下的AI 2.0时代，稀疏计算与稠密计算之间的新一轮较量开启

电子发烧友网（文/莫婷婷）生成式AI（AIGC）成为行业关注重点，例如Open AI推出的ChatGPT。就在近期Open AI将其升级为ChatGPT4，支持图片的输入和分析、更强的推理能力、更加复杂的指令，并更加具有创造性。ChatGPT的出现引发AI行业的新一轮技术升级，特别是针对算力需求相关的技术。

回顾算力的发展历程，深度计算在十年的发展过程中已经从AI1.0进入AI2.0阶段。AI正从解析式到生成式，并且应用场景爆发，墨芯人工智能创始人兼CEO王维在公开演讲时表示，“生成式给大家打开了应用的想象空间和大门，商业化不再是唯一担心重点，更需要担心的是如何能够赶上潮流的速度。”


如果将AI时代划分，AI 1. 0时代是小模型时代，那么AI2. 0时代就是以Transformer为基础的大模型时代，此时算力出现了根本性的变化，而且是挑战性的变化，王维指出这种挑战性体现在算力增长和推理速度上。

AI 1.0时代针对细分应用场景训练小模型，研发和部署的周期较短，可能是以周、月为单位进行部署，对算力的需求更多是通用性和易用性。成本、功耗在大部分的应用场景不是“痛点”，只是“痒点”。

到了AI2.0时代，Transformer模型参数每两年增长达到275倍，并且还会持续增长，算力需求平均每3.5个月翻一倍，对算力的需求是拓展性，会更加关注算力能不能跟上需求的速度，从而实现更大规模的拓展模型，用更先进、更聪明的方法训练出更厉害的预训练模型。

王维认为，Transformer模型需要在训练方面上找到更聪明的方法，使得它在生成式上实现临界点的突破。而强调软硬件协同设计的AI芯片，稀疏计算被认为最具有发展潜力，也是学术和行业巨头都在研究方向。

资料显示，稀疏性计算是指剔除计算中不必要、没用的计算，通过降低不必要的存储和计算，加快计算速度、提升部署性能。更聪明的计算，只计算真正有用的元素，正是稀疏化计算的本质。

就在2022年，墨芯人工智能宣布发布第一代芯片英腾处理器ANTOUM，官方表示通过多的剪枝和压缩计算，该产品以32倍稀疏率打破业界纪录，将市场现有产品的稀疏倍率提升16倍。作为稀疏化计算领域的国内厂商，墨芯人工智能的产品和稀疏化计算在AIGC的火爆下获得更多关注。

图源：墨芯人工智能

基于ANTOUM芯片，墨芯人工智能推出了S4、S10和S30计算卡，拉开了稀疏计算与稠密计算较量的序幕。在2022年9月，官方宣布12nm的S30计算卡以14000FPS的算力，打败英伟达4nm的H100，成为ResNet-50模型算力全球第一。此外，墨芯S4、S30功耗仅为主流GPU的18%、53%。

在当下的行业需求下，稀疏计算的技术优势被进一步放大，也成为国产AI芯片厂商能够在一个更高的维度上和国际霸主进行竞争和挑战的机会。在国内市场，随着AIGC实现商业模式变革，墨芯人工智能等国产算力芯片厂商将有机会获得更大的成长空间。