端测AI成趋势_华为HiKey970打造想象力无限的AI应用

自去年华为发布麒麟970集成NPU、苹果发布A11 Bionic神经引擎后，终端AI化逐渐成为行业发展的潮流。而不同于苹果推出封闭的AI机器学习框架Core ML，华为将AI应用开发的能力开放给了众多开发者，以便开发者能实现更多的AI终端应用场景。这对促进AI应用的尽快落地至关重要。

日前，在香港Linaro开发者大会上，华为正式发布开源的人工智能开发平台HiKey 970，向广大开发者提供AI应用开发的硬件支持。据悉，HiKey 970不只是开源硬件中的性能强者，还得到华为HiAI平台的支持，可用于深度学习算法、智能机器人、无人驾驶和智慧城市等多个领域，有望带动端侧人工智能迎来全新的发展局面。此外，HiKey 970开发板将于4月中旬面向开发者公开发售。

独立NPU的强大运算能力，让HiKey 970实现高速计算

AI芯片的应用方案主要分为云侧和端侧两类，相比云侧，端侧在隐私保护、通信带宽需求、实时性/低延时、功耗以及体验等众多方面部署人工智能更有优势，因而端侧人工智能已经成为AI产业应用的大趋势。

而端侧的AI应用，需要芯片在计算技术以及算力上实现突破，作为业界首颗集成NPU的麒麟970正具备这样的条件。麒麟970通过加入一个独立的NPU来处理AI运算，同时支持基于NPU的神经网络计算硬件加速，为开发者们提供了强大的AI算力，其运算效率远远超过CPU和GPU。 

资料显示，在处理相同的AI运算时，NPU的性能是 CPU 的 25 倍，GPU 的 6.25 倍（25/4），能效比上，NPU 更是达到了 CPU 的 50 倍，GPU 的 6.25 倍（50/8）。另外，在测试中发现，麒麟 970 的 NPU 每分钟可以识别出 2005 张照片，而不使用 NPU 的话则每分钟只能识别 97 张，明显看出独立NPU的算力优势巨大。

"正是基于NPU的强大运算能力，HiKey 970开发板的高效运算集中在NPU中。"华为无线终端芯片产品市场总监周晨表示，"当我们把芯片算力做到位之后，需要有开发者在平台上把AI能力变成用户体验，所以开发者对我们来说格外重要。同时这也是开发者基于麒麟 970在华为旗舰手机之外的创新尝试。"

除了独立的NPU处理单元带来强大的AI运算力之外，HiKey 970开发板在API和系统的集成上也更全面。据了解，HiKey 970开发板外围部分拥有支持4K高清的HDMI 2.0a接口，2个USB3.0接口，2个USB Type-C接口，1个千兆网口，支持CAN V2.0B协议，可以运行AOSP、Ubuntu、Debian等系统；同时还兼容于96Boards CE的标准，在计算机视觉、高性能计算开发、Android标准化程序开发测试等领域可以带来广泛的应用。

HiAI加持，离线模式运算亦高效

作为业界首款开源的人工智能开发板--HiKey 970在强劲性能基础上，还有一大杀手锏，就是华为HiAI平台的加持。

HiAI移动计算平台有五大优势：

1. 多核异构架构，最大化发挥CPU/GPU/ISP/DSP/NPU的功能；

2. 支持离线模式，更适合端侧AI性能的发挥；

3. 支持更丰富算子和快速迭代，将在后续版本中支持算子定制；

4. 支持丰富的前端主流Framework以及上层功能业务API；

5. 支持HiKey 970开发板，降低开发成本。

对AI应用的开发者来说，最为重要的不外乎开发成本、受益和IP保护。为此，华为推出了HiAI移动计算平台并面向开发者进行开放，让第三方应用开发者能够基于HiAI移动计算架构进行APP开发，降低开发成本。同时，华为在IP保护以及加密算法上可以确保对开发模型进行加密保护。 

此外，HiAI平台采用多核异构的架构计算可最大化发挥CPU/GPU/ISP/DSP/NPU的功能，其减速功能和能效比大幅优于CPU和GPU，且支持丰富的前端主流Framework、提供丰富的上层功能业务API，通过异构资源灵活调度，来满足开发者加速神经网络模型计算和算子计算。

更重要的是，HiAI离线模式能够有效提高计算效率，同时也更适合HiKey 970端侧AI性能的发挥。离线模型计算时会从文件中加载离线模型，计算时每一次推理只需要把用户数据从DDR到NPU导入导出一次就可以运行，这是一种非常高效的模式。 

高校合作已启动，一波AI应用正在路上 

在传统手机芯片上，麒麟970创新采用独立的NPU处理单元，让手机的AI性能更强大；如今，华为率先发布首款人工智能开发板--HiKey 970，并在HiAI、SDK等加持下，将人工智能的开发应用瞄向更广的范畴。可以预见，未来将会有更多AI端侧的应用出现，AI时代也随之到来。 

谈及HiKey 970的具体规划，周晨透露，HiKey 970是华为发布的第三代开源开发板，目前已经和不少高等院校展开合作，进行更深层的AI应用研发。接下来，通过提供HiKey 970开发板的方式，一方面可以让开发者能够感受到麒麟970的人工智能实力，为华为和相关的开发者提供更多的应用方向；另一方面，借助更多开发者的投入开发，也为芯片升级提供了更多思路和指引方向，从而为更好地满足开发者的需求，为消费者带来更好的体验。

同时，华为也计划推出耀星计划，通过人才培养支持开发创新，加速AI应用的开发人才招募，为AI项目的落地以及推广覆盖做更多准备。

周晨表示，虽然现在的AI应用还没有大范围普及在终端上，但实际上已经有很多合作伙伴在共同努力，很快就会有一大波基于AI的应用和体验出现在手机上，让大家感受到AI应用不仅限于原有领域，还可以覆盖更多领域并带来更多新的体验和能力的提升。相信不久之后会有一波波AI创新和端侧应用的开发涌现，大家不妨拭目以待。