GPU+NNA异构平台如何为人工智能、移动、汽车等广泛的应用提供支持

9月9日-10日，2020年中国嵌入式技术大会在深圳宝安国际会展中心举行。本次大会由1个主题论坛和4个分论坛组成，涉及嵌入式系统、物联网开发的软硬件技术、物联网安全、RISC-V开发与应用、嵌入式人工智能技术与应用等多个热点话题。Imagination Technologies作为全球领先的半导体知识产权（Silicon IP）厂商也受邀出席大会，并于9月10日在嵌入式人工智能技术与应用分论坛上发表了主题演讲。

随着人工智能（AI）越来越多地被应用在边缘侧和终端侧，嵌入式人工智能技术受到的关注也越来越多，尤其是在新兴的人工智能物联网（AIoT）领域，嵌入式AI大有用武之地。Imagination长期以来对AI的发展保持着密切关注，并且凭借其神经网络加速器（NNA）和图形处理器（GPU）IP在AI应用中所展现的优异性能，而备受业界好评。本次大会，Imagination中国区首席技术专家李安代表公司出席，并以“基于GPU与神经网络加速器的异构计算平台”为主题，介绍了Imagination的GPU+NNA异构平台如何为人工智能、移动、汽车等广泛的应用提供支持。

Imagination中国区首席技术专家李安发表演讲 李安首先对Imagination的基本情况和主要产品线进行了介绍：“目前，全球基于Imagination IP打造的芯片，出货量已超过110亿片。我们拥有数千个基础专利，而且是美国之外唯一一家持有核心GPU专利的企业。Imagination主要有三大产品线，分别为PowerVR GPU、PowerVR视觉和AI以及Ensigma连接和通信。就GPU而言，我们在移动GPU IP领域占据38%的市场份额，在汽车GPU IP领域更是高达43%。此外，我们的无线连接IP也排名全球第二。” 随后，李安重点讲解了Imagination如何使GPU和NNA协同工作，以形成灵活、高效、普适的异构计算平台来支持各类AI应用。 他介绍道：“Imagination最近开发了一项创新性的技术，可以使NNA和GPU更高效地协同工作，这就是AI协同（AI Synergy）技术。通过AI协同功能，GPU可以在提供图形处理能力的同时，使用其备用资源去支持可编程AI；同时，固定功能的AI运算则交由NNA来执行。这样，既利用了GPU的灵活性，又利用了NNA的高算力，同时还避免了GPU的资源闲置，是一种算力、效率和灵活性俱佳的异构计算解决方案，可以实现更优化的AI性能。” 李安还分别就Imagination的GPU工具和软件开发套件（SDK），NNA对各种AI框架和神经网络的支持，以及GPU和NNA的重点应用等内容进行了分享。 “Imagination的GPU在汽车领域有着非常广泛的应用，你可以想到的大多数汽车品牌中都有我们GPU的身影。在国际上，我们和瑞萨（Renesas）、德州仪器（TI）、索喜（Socionext）等知名汽车芯片厂商从很早就开始合作；在国内，芯驰科技（SemiDrive）也在其最新发布的智能座舱芯片中采用了Imagination的PowerVR Series9XM GPU。” “NNA的应用领域也有很多，例如物联网、智能摄像头、可穿戴设备、手机、增强现实/虚拟现实（AR/VR）、智能驾仓、先进驾驶辅助系统（ADAS）/自动驾驶等，有的应用通过单个NNA内核就可以支持，而有的则需要多个内核以集群方式提供高算力。”李安在介绍完GPU和NNA的应用后，还专门通过几个视频演示了NNA在人脸识别、姿态检测等方面的应用效果。