AI算法和推理正日益依赖于终端进行的原因

数据预测，从2017年到2021年，5年时间，全球的IOT通过4G或者5G网络连在一起的设备会达到200亿台。在此情景之下，作为能够使得智能终端产品更加智能的AI也成为时下热词。万物互联大幕的逐渐拉起，也使得AI产业吸引了众多上下游企业的参与，尤其是随着芯片厂商以及终端品牌等的加入，AI在产品形态上已经呈现出多种多样。可以说，AI正给消费者和整个行业带来巨大可能性。

尽管在AI技术领域各家企业发力的方向有所区别，但是总体上他们对于AI的未来都已达成共识，即由于在巨大的万物互联时代，各个设备不仅仅是要联结在一起，而且会变得越来越智能，因此AI正以其发展的无限可能性给整个产业链带来巨大的机会。

正如高通产品总监刘学徽在4月26日由手机报在线举办的AI手机产业峰会上所表示，传统意义上的AI在云上面可以做模型培训，也可以做模型的推理。但是现在有一种趋势，即AI的运算能力，尤其是推理的过程，正慢慢变得大多数是依赖终端在运行的。这种趋势不管是对做模组还是做算法的厂家来讲，都是非常大的机会。

高通产品总监刘学徽

至于AI算法和推理正日益依赖于终端进行的原因，主要有三点：一是隐私性。刘学徽表示，不管是手机还是各种可穿戴设备都是人在使用，而现在人对隐私的意识正越来越强。而传统各种AI的算法、推理都是在云上做，这势必就会将所有的数据都上传到云上。相反，现在在终端做算法和推理，则可以避免将信息上传至云端的过程，用户也就可以相对放心。

二是低延时。刘学徽介绍到，不管AI怎么做，它都需要用户的体验，而一旦用户体验差，这个产品或者性能就没法推广开。例如，现在非常流行的手机人脸解锁、人脸开机就是典型的在端上使用人工智能的案例。而如果说开机的过程要把人脸信息采集传到云端，云端算完再传下来，这种延时性用户是很难接受的。因此终端运算和推理能够很好地解决用户对于延时性的反感问题。

三是可靠性和经济性。因为设备在端和云，端到端连接的过程会产生大量数据的交换，如果所有的AI能力都用云来做，势必对带宽的负载，包括中间通讯的可靠性等带来很大的挑战因此在终端的运作上会在可靠性和经济成本上占更大的优势。

在介绍了端上实现AI的三个优势之后，刘学徽还重点强调了高效的硬件、算法、软件工具以及端上AI计算和推理的重要性。其中，运算AI的硬件能力非常关键，需要轻薄，且对低功耗是强需求，算法也不能太庞大，而是要适合终端设备商运行，此外，软件工具也至关重要。

在所有AI终端设备方面，就目前而言，不得不提的就是手机终端了。可以说，手机由于其便携性，智能性，几乎是被公认的IOT的核心，它甚至可以变成各种各样IOT的设备。

另外，在手机上的AI的方向大概有几类。其中基于计算机视觉的应用是当下的主流，它包括摄像头各种各样的应用场景，比如背景虚化、照片处理、场景识别与分类等。例如，vivoX21手机的个人助理应用场景落地就是一个体现，它能够让手机里面有一个算法感知到用户是在车上、运动行走中、开车还是在地铁里等各种场景，从而根据场景来给用户提供对应的便利服务。

此外，AI的运用方向还涵盖了设备的厂家功耗，包括资源的管理、用户交互体验方面的语音交互、手势识别以及目前出现的采用人工智能方法来识别病毒或者是来防范设备端到端的安全等。

作为在全球芯片制造领域都具有领先优势的高通来说，刘学徽还介绍了高通在AI方面的产品布局。主要包含三大类：硬件、软件及框架。

其中，硬件包含INT8网络、FP32及FP16网络、FP32及INT88位网络，软件是硬件和应用之间的桥梁，高通软件包括一套SNPE的开发工具，以及支持Android和Hexagon NN的库。框架有CaffeCaffe2、TensorFlowTensorFlowLite、ONNX。以上就构成了AI E的产品系列。

此外，刘学会还强调，做最终的产品和最终的应用，需要和业内各方面领先的企业进行合作，例如，在国内高通与商汤、Face ++、腾讯、百度有合作，国际上和Google在TensorFlow方面有深度合作。值得一提的是，骁龙芯片，AI产品还是TensorFlow第一个终端上的商用芯片。

总体来说，终端AI是非常庞大的生态系统，没有一家公司可以把所有事情做掉，类似高通这种实力型的企业，其AI生态系统在支持多种框架和多种操作系统的同时，也仍然在积极开展与领先的AI算法公司、云服务商以及互联网厂家的深度合作，追求提供多样的应用场景的技术来与终端设备厂家进行配合。

可想而知的是，只有如此通力合作，整个AI手机产业链才能最终为消费者提供更加丰富的应用场景，为终端产品增加更多的价值。