Imagination与飞桨合作提出“软硬一体赋能芯片设计”理念

9月2日，由深度学习技术及应用国家工程研究中心主办，百度和张江集团承办的2022世界人工智能大会“软硬协同赋能产业未来专题论坛”成功举行。百度飞桨携手硬件生态伙伴和行业资深专家学者，深入探讨软硬融合创新实践和生态共创共赢的发展路径，赋能千行百业。

为让AI技术应用于产业场景、服务于前沿探索更方便、更灵活，飞桨与硬件伙伴创建繁荣生态的同时，也在共同探索AI软硬件协同创新的优化方案。对此，复旦大学微电子学院院长张卫、Imagination中国区产品市场副总郑魁、紫光展锐消费电子BU市场合作部部长朱宇、国电南瑞集团信通科技公司产品研发中心经理马涛和百度飞桨产品负责人赵乔等展开高端对话，探讨Imagination与飞桨提出的“软硬一体赋能芯片设计”理念，从IP层面进行合作，加强软硬生态的建设。

圆桌对话嘉宾

生态合作推动 AI落地行业应用

圆桌对话中，五位嘉宾围绕“软硬一体赋能芯片设计”主题，针对AI落地的挑战与应对、如何理解和定义软硬件协同等话题展开了探讨。

对于人工智能的落地，国电南瑞集团信通科技公司产品研发中心经理马涛表示，目前电力系统的智能调度、电力的信息化系统等包含了较丰富的AI应用场景，如机器人巡检、设备的全景监测、作业管控等，同时正在和Imagination、紫光展锐、百度等尝试一些应用的探索。不过，他介绍，电力系统对可靠性、稳定性、识别的精准度等方面要求高，AI算法也会更复杂一些，需要不断调试；同时，对于电力系统小样本数据训练的精准度，还需要进一步提升。

紫光展锐消费电子BU市场合作部部长朱宇从芯片企业的角度表达了他遇到的难题。他认为，作为SOC厂商，往往会在通用芯片中加入AI功能，例如采用 Imagination 的 IP 实现芯片最大算力，但这有一定的上限。通常，他们会先满足手机方面的AI应用，而随着AI在行业应用的深入，生态合作就十分重要。他表示，不管是 IP 厂商，还是飞桨PaddlePaddlet提供的上层框架，通过很多开发者提前预置模型，会加速 AI 落地。

Imagination中国区产品市场副总郑魁表示，Imagination 是一家半导体 IP 供应商，在GPU、AI 等领域有着多年的技术积累，也一直关注AI 落地。Imagination会与客户合作持续在 AI 落地上发力，同时也越来越认识到生态的重要性，希望与众多合作伙伴一起实现产业化落地的目标。在生态建设上，早于2019年Imagination与飞桨达成合作，并在今年双方发起“软硬一体赋能芯片设计”，打造面向行业的一些 AI 解决方案。

百度飞桨产品负责人赵乔所带领的团队是负责整个飞桨的产品规划和设计，据他介绍，飞桨做了各种类型的包括视觉、语音、语言处理模型，以及一些行业的模型库和行业应用范例，但发现软件需要跟硬件深度结合，才能发挥更好的效果。于是，飞桨开始与 SOC厂商、IP厂商合作，讨论如何通过框架跟 IP 软件栈的深度融合，解决 AI 工具链的成熟度问题。赵乔希望通过 IP 跟框架层面，辐射到芯片设计企业，最终服务到用户。

如何定义软硬件一体赋能芯片设计？

回到圆桌对话的主题，嘉宾们谈到了他们对“软硬件一体赋能芯片设计”的理解，以及未来带给行业的影响。

郑魁表示，软硬件一体我们从IP 角度是设计开始就把能做“计算”的核放在一起做资源优化，目前 Imagination 主要涵盖 GPU、AI、CPU三大产品线。其中 GPU 可多核扩展支持 6TFLOPS 的算力，AI 加速器可支持到 100TOPS 甚至超过 5000TOPS 的算力并在自动驾驶领域落地，以及还有基于RISC-V的CPU。未来，各硬件厂商将面临计算算力的挑战，那么 Imagination 基于现有的产品线也在打造异构计算的架构，例如在CPU中加入 AI 加速专用硬件，同时我们也拥有IMGDNN SDK软件。

Imagination希望基于百度PaddlePaddle这样产业化的平台，把AI 框架解析过来的工作通过DNN 最终部署到合适的硬件上，在硬件厂商计算架构的不断迭代中与软件更好的结合，同时针对一些特定的应用场景，各方企业可以联合定义一款芯片，探讨某个行业的需求点。

马涛认为，软硬件一体是未来发展的趋势。在当前的电力系统里，AI应用有一些标准化的场景如人脸识别等，软硬件协同则可以快速实现规模化的部署。同时在电力系统的智能化升级中，软硬件的协同也将帮助实现更多的复杂场景的AI 应用。

在赵乔看来，通过与产业链上下游企业的合作以及软件的不断成熟，可以解决AI 落地的两大难题。一方面是成本问题，例如在包含Imagination IP 的芯片上做相应的软件开发，并加入一些定制化或更丰富的功能后，可提升应用端的开发效率，从而降低成本。另一方面从应用的角度来看，针对质检类、巡检类这样的特定应用，如果能一开始便将丰富的模型库与软件栈很好的结合，也将大大提升应用终端的开发效率。

随着人工智能技术在各行业的广泛应用及快速发展，业界已从各自独立的硬件算力驱动和算法创新驱动进入到算法和硬件协同创新阶段。Imagination希望与飞桨及更多的软硬件伙伴加强合作，实现共赢。

审核编辑：彭静