生成式AI加速向终端侧演进，NPU、异构计算提供强大算力支持

电子发烧友网报道（文/李弯弯）生成式AI是一种通过学习大规模数据集生成新的原创内容的新型AI。Bloomberg Intelligence最新报告预测，未来10年内，生成式AI市场规模将从2022年的400亿美元，增长至2032年的1.3万亿美元，年复合增速达到42%。

生成式AI向终端快速演进

当前大部分生成式AI的开发工作都集中在云端，然而生成式AI正朝着直接在终端上运行的方向快速演进。高通公司总裁兼CEO安蒙前不久谈到，生成式AI将变革终端侧的用户体验，具备生成式AI能力的PC能够更好地理解用户需求，生成式AI还将带来全新的人车交互方式，支持用户与汽车直接进行对话。他认为，生成式AI将为各行各业带来全新机遇。

近段时间，生成式AI在手机、PC等终端设备上已经有不少用例。最近推出的新手机，就有不少生成式AI的应用，比如，OPPO Find X7Ultra的AIGC消除功能，即可极大幅度的降低拍照废片率，一些路人突然出现的照片，就可以通过该功能成功拯救。三星Galaxy S24系列的通话实时语音翻译和同传功能，支持了13种语言之间的无缝翻译，出国旅行也可轻松交流。

在前不久的MWC展会期间，高通也在现场展示了大量生成式AI的应用案例。相比此前发布的一些手机的AI功能，高通在MWC现场所展示的AI功能更为神奇。如，在图像生成上，完全不需要一长串的文字标签，只要给出一个比较准确的描述，Stable Diffusion即可快速生成图片，与描述相差无几。比如输入“一只可爱的卷毛猫”，小龙手机仅耗时不到7秒，就生成了一张卷毛猫在室内的照片，效果十分真实。

另外，图片生成还能根据个人或艺术偏好，加入自定义元素来展现风格效果。比如在加入“水晶”关键词，并设定好风格权重后，模型就会添加水晶元素，最终生成的图片就很有赛博风格了。这种使用方式很具想象力，它可以用来制作表情包，甚至在创作平面、视频内容缺素材时，也能运用AI快速生成符合要求的素材。

异构计算对端侧生成式AI的重要性

而这些生成式AI功能在终端设备上的应用离不开芯片的支持。高通认为，对于端侧生成式AI来说，异构计算是必要条件。高通在此次MWC 展示的Stable Diffusion快速生成图片，完全依靠端侧算力，它需要NPU进行推理，需要GPU进行图像渲染，也正是在异构运算的帮助下，才能快速里完成图片生成，并且能够保持低功耗，保持手机终端的高电池续航。

近日，高通在其发布的《通过NPU和异构计算开启终端侧生成式AI》报告中，深入阐述了NPU与异构计算，对端侧生成式AI使用的重要性。

高通公司提出，随着生成式AI用例需求在有着多样化要求和计算需求的垂直领域不断增加，需要专为AI定制设计的全新计算架构。这首先需要一个面向生成式AI全新设计的神经网络处理器(NPU)，同时要利用异构处理器组合，比如中央处理器(CPU)和图形处理器(GPU)。通过结合NPU使用合适的处理器，异构计算能够实现最佳应用性能、能效和电池续航，赋能全新增强的生成式AI体验。

NPU专为实现以低功耗加速AI推理而全新打造，其架构随着新AI算法、模型和用例的发展不断演进。AI运算上的主要负载是由标量、向量和张量的数学运算，虽说CPU也能对此进行处理，不过处理速度和功耗方面都不理想。NPU正是针对AI运算所打造的新处理单元，高通在2015年推出的第一代AI引擎，在Hexagon NPU集成了标量和向量运算核心，之后又加入了张量运算核心，从而极大加快了AI处理速度，并使AI运算处理的功耗大幅度降低。

写在最后

如今，生成式AI已经在终端侧展示出它的价值，随着生成式AI在终端侧运行的加速，这一趋势也将推动终端的进一步创新，有望为手机、PC等消费电子市场带来新一轮生机。同时，生成式AI在终端侧的运行需要极大的算力，这也是目前业界需要解决的重大问题。