多项第一!Imagination神经网络加速器通过AIIA DNN benchmark评估

在6月28日南京国际博览会议中心召开的中国人工智能峰会，中国人工智能产业发展联盟（AIIA）总体组组长孙明俊主持发布了“AIIA DNN Benchmark”测评结果，Imagination的神经网络加速器通过了《AIIA DNN benchmark——人工智能端侧芯片基准测试评估方案 V0.5 版本》！在测试中，Imagination的神经网络加速器在多项测试中名列第一！

据发布的报告，在基于端侧推断任务深度神经网络处理器基准测试结果中，Imagination的神经网络加速器在多个框架测试中成绩名列第一！

孙明俊表示AIIA DNN Benchmark已经制定两套评估规范、完成两轮端侧评估评测工作，增加支持安卓和Linux操作系统，是唯一一家区别整形和浮点的评测标准，目前该发布结果已经公布，

网址是：http://aiiaorg.cn/uploadfile/2019/0702/20190702065314379.pdf

AI 进入爆发期后，芯片对技术进步的影响愈发凸显。AI 芯片益复杂化、多样化，一方面，芯片厂商纷纷给出不同的衡量标准，声称其产品在计算性能、单位能耗算力等方面处于行业领先水平；另一方面，需求方却关心如何能从厂商给出的信息中判断出芯片是否能实际满足其真实场景的计算需求。针对这一现状，一个与真实场景紧密相连的、同时跨产品可比的测试评估方案的出现，迫在眉睫。

如何构建与真实场景紧密相连的、面向不同产品形态、设备级别的 AI 加速器测试评估方案？在2018 年的AIIA 人工智能开发者大会上，《AIIA DNN benchmark——人工智能端侧芯片基准测试评估方案 V0.5 版本》就由孙明俊代表中国人工智能产业发展联盟发布。

据孙明俊介绍，AIIA DNN benchmark 的工作目标为客观反映当前以提升深度学习处理能力的 AI 加速器现状，所有指标均旨在提供客观比对维度。AIIA 希望，该方案能够为芯片企业提供第三方评测结果，帮助产品市场宣传；同时为应用企业提供选型参考，帮助产品找到合适其应用场景的芯片。V0.5 版本首先给出了端侧评估方案。

据孙明俊介绍，AI 基准测试方案的制定面临诸多挑战。即便抛开优化程度、硬件架构等若干问题不谈，延迟、带宽、能耗都要纳入考虑范围。同时，各种神经网络模型都有不同参数，不同设备在不同参数下有不同的输出曲线。如何让指标在不同级别的设备中横向可比？而云端和终端的应用是否需要不同的基准测试？如何为不同测试项目分配权重，以获得一个相对公正客观、有代表性的评分？这些都是应用领域的差异性和实现选择的多样性导致的测评难题。

针对以上特点，AIIA 联合 Arm 中国、阿里巴巴集团、百度、寒武纪科技、ChipIntelli、地平线、华为、华大半导体、Imagination、Synopsys，腾讯、云之声等 12 家企业，推出了 AIIA DNN benchmark——人工智能端侧芯片基准测试评估方案。

AIIA DNN benchmark 以“版本迭代、不断丰富、不断完善”的工作方式，为更多评测应用场景、评测指标等提供评估方案，首轮测试对象主要为端侧设备。AIIA DNN benchmark 的发布，能够促进芯片供给侧与需求侧的交流，让需求方的意见能够更快传达到芯片企业，让企业进行有针对性的改良，加快行业迭代速度，推动 AI 产业的快速进步。

2017年9月，Imagination Technologies发布第一代神经网络加速器PowerVR NNA，此款NNA具有完整且独立式的IP，在面积效率、性能运算以及功耗等方面都具有“秒杀”竞争对手的优势。

2018年12月，Imagination Technologies发布了其面向人工智能(AI)应用的最新神经网络加速器(NNA)架构PowerVR Series3NX。单个Series3NX内核的性能可从0.6到10万亿次操作/秒(TOPS)，同时其多核实现可扩展到160TOPS以上。得益于包括无损权重压缩等架构性增强，Series3NX架构的性能可在相同的芯片面积上较上一代产品提升40%，使SoC制造商可在性能效率方面提高近60%，且带宽需求降低了35%。

Imagination在PowerVR Series3NX中增加了无损的权重压缩特性，这种压缩减少了需要存储和通过系统内存来传递数据的神经网络模型的大小，这意味着与PowerVR Series2NX相比，Series3NX提供了更加高效的总体带宽，相比Series2NX降低了35%，同时降低了SoC的功耗。

作为Series3NX架构的一部分，2018年年底，Imagination 还发布了PowerVR Series3NX-F（Flexible）IP配置，以提供前所未有的功能性和灵活性平衡，同时还结合了行业领先的性能。采用Series3NX-F的客户可以通过OpenCL框架来实现差异化并为其产品增加价值。

PowerVR Series3NX能够满足自动驾驶等应用的高计算需求，实现了下一代真正的人工智能。通过使用Imagination的专用深度神经网络(DNN)API，开发人员可以轻松地针对Series3NX架构以及现有PowerVR GPU编写人工智能应用程序。该API可以在多种SoC配置上工作，以便在现有设备上轻松地完成原型设计，目前Imagination的神经网络加速器产品已经广泛应用在手机、安防、智慧家居领域。