将AI落地到终端,软硬结合推动终端侧AI发展

“终端侧人工智能有两大方向，其一是高效率，其二是个性化。”

“人工智能技术是持续演进的。手机人工智能的应用要做到在与你不停的交互过程中，了解你的个人习惯，包括你喜欢哪些照片，从而进行筛选分类。这种个性化便是人工智能的发展方向之一。”

6月15日，上海嘉里大酒店，作为开场首位演讲嘉宾，高通工程技术总监、中国区研发负责人徐晧博士在“人工智能手机的机会”峰会上进行了主题为《人工智能的未来》的演讲分享，结合未来人工智能的发展趋势，讲述了高通对AI的战略布局及具体产品的发展方向。

“据预测，到2021年，人工智能衍生的商业价值将达3.3万亿美元，AI将深刻影响到各行各业的发展，对驱动经济增长和行业变革至关重要。值得注意的是，AI与无线通信技术尤其是5G技术的结合，将有望启动新一轮技术革命。”徐晧说。

高通工程技术总监、中国区研发负责人徐晧博士

此次峰会演讲嘉宾包括小米人工智能和云平台产品部总经理季旭、爱佩仪CEO洪航庆、科大讯飞消费者事业群智能硬件业务部产品总监张良春、卡布奇诺董事长赵玉涛、Imagination Technology公司市场及业务拓展总监柯川、龙旗股份产品总监霍胜力、第一手机界研究院院长孙燕飚等AI领域及业界顶级行业资深专家，参会人数超200余人。

将AI落地到终端

“5G的到来和智能手机的普及，让人工智能拥有了更好的应用前景。3GPP在本月已经完成了全球5G标准第一阶段工作，同时5G有望在2019年实现预商用。我们正面临全新的技术革命，因为5G即将连接万物。超高速、低时延的5G网络可以迅速连接云端、并获得云端的无限存储及数据，同时提升边缘终端的处理能力，支持在边缘实现感知、推理及行动。”

徐晧认为，将AI拓展至终端侧是未来AI发展的一个重要趋势，如何突破云端技术并把AI落地到终端将深刻影响到人类的生活。当下，人工智能和机器学习主要与云端相关联，但要实现规模化，智能必须分布至无线边缘。这并非易事，因为在边缘进行机器学习意味着需要在有限的环境中同时完成多类型的任务。但这同时也将为移动产业链带来重要机遇，因为其在移动技术包括边缘计算方面拥有经验和优势。

“为什么要在终端上做AI？最重要的原因之一是隐私。如果我的私人照片和视频不需要上传到云端，而是直接在手机上进行分析运算，这样数据安全会更有保障。此外，终端侧AI在可靠性和时延方面的优势也对于支持像自动驾驶这样的用例至关重要。”

据介绍，要在终端上支持人工智能，实现高效和节能是需要重点考虑的问题之一。与云端相比，终端侧AI对于功耗有更高的要求，我们需要处理更多并发应用、更多机器学习的场景，同时兼顾高效散热和外形设计。这对终端设计提出了要求，同时也引发我们思考在5G时代，智能手机应该如何实现人工智能。

软硬结合，推动终端侧AI发展

高通在人工智能领域有多年积累，早在2007年就启动了首个AI研究项目。目前高通的研究已经应用到产品侧——从第一代人工智能平台骁龙820到第三代平台骁龙845，骁龙移动平台已助力中国和全球的合作伙伴为5G和AI时代做好准备。此外，高通还已经推出了人工智能引擎（AIE），通过软硬结合的方式推动终端侧AI发展。

人工智能将根据智能手机中有关用户的全部信息，在适当的环境中提供所需的相关信息，或满足用户的需求。这需要非常高效的硬件、算法改进、软件工具以及系统级方案，这也是骁龙平台的关键属性之一。提升硬件效率并将高效的硬件平台提供给众多手机厂商，这是高通推动终端侧AI发展的重要途径。

据了解，骁龙845平台作为高通的第三代AI芯片，可以提供非常强大且灵活的异构计算架构。与上一代产品相比，骁龙845实现了近三倍的AI整体性能提升。目前，集成多核人工智能引擎的骁龙845平台已应用在小米MIX 2S、坚果R1、一加6、小米8、vivo NEX旗舰版、OPPO Find X等多款旗舰机型上。

“骁龙845是一款高度集成的芯片。与前代产品相比，骁龙845支持广泛神经网络框架，包括来自Facebook、谷歌和微软等国际企业的Caffe 2、TensorFlow和ONNX等多种框架，还可支持百度的PaddlePaddle和商汤的Parrots。由此可见，骁龙845能为开发者提供更多灵活性。”徐晧说。

在软件方面，高通的人工智能引擎支持高通神经处理SDK和Android NN环境。它还支持Hexagon NN，如果开发者选择使用Hexagon DSP来做开发，Hexagon NN库就可以专门针对某一内核进行优化以实现最优的能效比。所有这些为开发者和制造商带来极大的灵活性，有助于他们实现性能最大化。

此外，高通也正积极与AI生态系统共同推动终端侧AI的发展和落地。在软件开发方面，高通与包括商汤、旷视（Face++）、网易有道、创通联达等众多企业基于其人工智能引擎展开合作，并已成功在骁龙手机上实现2D面部解锁、单摄背景虚化等AI特性。在云端方面，高通拥有腾讯、百度、谷歌、Facebook和微软等合作伙伴。

徐晧强调，“要驱动AI技术革命，需要业界众多厂家和广泛技术的融合，包括硬件产品、架构平台、操作系统、云端和独立软件开发商等。最终的目标是通过最合适的硬件和软件架构，在广泛边缘终端上实现终端侧智能，包括手机、自动驾驶汽车、无人机等。”

一花独放不是春，AI的发展有赖于整个AI产业链及生态系统的紧密合作。“从高通的角度而言，我们希望跟业界朋友一起合作并进，共同打造AI未来，推动智能无线边缘成为现实。”