边缘计算真的可以赋能万物吗

南京创新周未来城市论坛

地平线创始人兼CEO余凯在南京创新周未来城市论坛上以《边缘AI芯片趋势》为主题发表了演讲。

在演讲中，余凯认为当下边缘计算在中国最值得关注的落地应用场景有两个：一是智慧城市，二是汽车的智能化。在未来 5G 所牵引的万物互联的时代，以上两个落地场景带来的一定是数据的爆炸性增长，由此带来的是设备的智能一定离不开边缘人工智能处理器及其软件操作系统和上层应用。

中国未来的科技发展进入了一个打空间战的阶段，不仅仅是上层的应用要继续做好，下层的计算处理器、操作系统同样要夯实。支撑起中国未来科技发展的不光是需要企业，也需要整个生态，需要企业、高校人才等方方面面地整体互动。

从2015年的7月14日成立，地平线已经有快四年的历史了。在成立这个公司的时候，地平线的核心创始团队包括我自己其实在过去从来都没有真正地摸过芯片，基本上是一群干软件算法的人，我自己在机器学习算法、软件算法这个领域工作了有20多年，为什么会去思考换一个跑道，从软件算法到芯片？其实有一个很重要的原因——在2015年的时候，深度学习已经开始为大家所关注（但是AlphaGo还没有发生，人工智能的也远没有到街头巷尾），我们隐约感觉到真正的人工智能要走出学校，走出像百度谷歌这样的大公司，走向普惠化。能够让很多的行业受惠，其实只做软件是不够的，比如底层芯片就是非常重要的一块。基于以上考虑，我们在2015年成立了地平线，这在之后的几年内都应该是中国唯一一家从事AI芯片的创业企业，可能在世界上也是最早的一家。

去年我看过一个报道说有40多家AI芯片企业在中国，今年应该有更多。适当的泡沫是好的，只要这个方向值得去尝试，泡沫退去的时候终归有一些企业能够占有一席之地，比如2000年4月份的互联网泡沫，退去之后留下来的还有谷歌、BAT这样的企业，他们都是在泡沫之前产生的企业。所以只要有好的企业、好的方向，适度的泡沫是可以的。

在移动互联网时代很多用户的数据在云端被分析，大量的数据模型为各类公司提供了极大的便利。为什么中国的AI今天能够相对在国际上取得比较领先的优势？很大程度上是因为移动互联网有大量的数据产生，这样的产业场景和规模可以培育很多人工智能人才。但我们下一步5G到物联网的时代，更多的数据不是产自于人，而是来自于汽车、摄像头、温度传感器、无人机等等，更多实时的数据、射频的数据、传感器的数据都会被产生。尤其从去年开始5G加速到来，这会进一步地推动这样的边缘计算的趋势。

移动互联网构造的是人和人之间的网络，人和信息之间的网络，那么5G推动的是什么？答案是物。由于5G带来的是万物的连接，万物的连接导致的是数据的进一步规模化的爆炸，同时我们的主干网并不能够支撑这样的数据传输规模，所以会在终端到边缘产生我们所说的数据堰塞湖，这样的数据堰塞湖会大量的发生在终端，因此边缘服务器端人工智能计算会成为未来的一大需求。很多研究报告都在提到这样的变化，基本上到2025年，边缘人工智能计算的将会达到是云计算同样数量级的规模。未来，边缘计算将会走出世界级的企业。

边缘计算与云计算是相对的，如果说云计算的根据地是城市，边缘计算就相当于农村，拥有广袤的土壤。

云、边、端三类计算方式，当下还是云计算占据主流的，但物联网、5G会继续推动边缘服务器以及智能终端计算的发展。我们统称的边缘计算实际上包括终端和边缘的基站服务器，除去云计算之外的这两个都是叫边缘计算。当下边缘计算在中国最值得关注的落地应用场景有两个：一是智慧城市，二是汽车的智能化。在智慧城市方面，现在少部分在服务器端做计算复杂，但是在今年以及未来的四五年的时间100%的数据都会在摄像头端被分析和计算，这会极大的推动边缘人工智能芯片的发展。而在智能驾驶方面，汽车智能化随之而来的是传感器在车端的部署，这一定意义上促使汽车也成为了四个轮子上面的超级计算机。

一个直观的数据是，基本上的共识每辆自动驾驶汽车产生的数据会高达1000个TB，如果是2000辆的4级、5级的自动驾驶汽车，产生的数据将相当于百万的搜索引擎所检索的所有的数据，是非常庞大的数据量。

边缘计算有哪些特性？

那么边缘计算有什么特点？随之而来的是什么样的好处？

首先，它具有实时性，比如对于汽车的安全性，如果前面有小孩子横穿马路，你要把这个信号传到云端，算完以后变成指令再传回来，可以想象发生什么问题，如果这个网络带宽并不是有保障呢？安全性对更可靠、及时的本地计算提出了需求。此外，像美国的一些家长不让小孩子玩带语音识别的玩具，为什么？因为这些数据都要传到云端识别，包括今天讲小米音响，阿里的百度的都有这些问题。隐私保护将是越来越受到关注的一个问题，而边缘计算在这些场景下有很多好处。

我们以自动驾驶为例，边缘计算虽然发生在边缘，可是它对算力的要求一点都不低，比如今天讲到的车载AI计算主要是面向从2级到3级的辅助驾驶和半自动驾驶的算力，这基本上是10TOPS的算力。但自动驾驶的等级每往前增长一级对于算力要求增长一个数量级，到5级自动驾驶会是1000个TOPS，也就是1000个万亿次，实际上达到了人类大脑的算力了，持续半个世纪的摩尔定律已经遇到了瓶颈，也就是说单靠物理去不断提升这种算力是越来越走不通。站在2019年的当口，我们面向未来如何继续推动边缘算力的成长？去迎接未来在人工智能的边缘计算的挑战。

过去，在2015年每1000美金能够买到的算力基本上和老鼠的大脑相当，可是我们需要推动更复杂的计算进程，使得到2025年、2030年的时候每1000美金我们能够买到的算力是达到1000 TOPS，就是1000个万亿次的算力，即达到人类大脑的能力。那如何去实现这一点？我们在有的场合提到过：通过场景驱动、软硬结合创造新的摩尔定律。可以想像，如果我们能够去做到这一点，那么到2025-2030年的时候，基本上每1000美金能够买到的算力其实接近天河二号的算力，今天天河二号的算力光一年的电费就要8千万人民币。自动驾驶需要这样级别的算力，这听起来是难以想象的事情，但其实在过去的30年里，发生的事情并不是那么地让人吃惊——回顾30年整个算力增长100万倍，差不多是2的20次方，因为每一个五年大概算力翻一倍。

工业时代电力是基础的赋能力量，但在数字经济时代，数据量、存储能力、云计算的规模则会是很基础的赋能能力。在大数据和人工智能驱动的经济时代，我们能够有效地利用人工智能的计算，实际上是一个非常重要的基础的驱动力。

在过去的几年里如何衡量人工智能的能力？一直是存在一个误解，因为传统芯片的性能我们一般说它的功耗、算力、面积，但是在人工智能芯片的真实应用场景里，我们不应该遵循这种传统的简单的衡量方式，而应该采取更加务实的计算方式，就是去考核AI芯片的真实性能。真实性能首先第一点从技术出发，单位功耗能实现的算力，但是我们还要去看架构设计以及算法是不是能充分利用硬件资源，也就是有效利用率。此外，人工智能算法实际上是统计机器学习算法，统计机器学习算法好和坏会导致什么样的差别？会决定单位算力能够完成什么样的人工智能任务。最终来讲，我们考核的是单位功耗里人工智能的性能，单位价格下人工智能的性能，这些才是真正的AI芯片的真实性能。

以上标准现在越来越成为一个业界的主流认知，即通过场景驱动定义的软件框架，然后软件框架结合硬件的架构设计，使得软件和硬件的结合继续推动在边缘计算里的人工智能的算力。这是我们所追求的新的摩尔定律，它也要求我们有能力进行全栈式的技术开发，包括人工智能应用对算法、芯片架构、编译器等等的协同优化。

同样的硬件架构，编译器的性能实际上可以影响整个效率，比如有地平线编译器的自动优化的话，每一秒钟原来可以处理9桢的图像，现在可以提升到每秒钟24桢，计算的资源的利用率从30%多提升到85%，这就是软件和硬件的协同推动的效率提升，例如地平线推出的车载人工智能计算平台——Matrix，可以有效应对高级别自动驾驶的需求。和市面上主流产品相比，地平线其实在功耗，在效率上面有强大的竞争优势，比如一个3瓦的功耗计算实际上能够处理的效率，比如一秒钟能够处理多少桢图像，和目前主流处理器有显著的提升，地平线的核心竞争力就是软件和硬件的高度协同。目前，Matrix自动驾驶计算平台已经在国外的一个世界非常知名的自动驾驶企业的车上进行了部署，今年同样在国外会部署超过1000台这样的4级、5级自动驾驶车辆。在4级、5级自动驾驶里，地平线产品的计算能力极具国际竞争力，在实际部署中也是先人一步的。

基于地平线Matrix自动驾驶计算平台地平线还打造了NavNet众包高精建图与定位方案，我们可以用单个的前置摄像头通过计算实现类似于激光雷达的三维点云生成，并且是实时计算。今年，NavNet众包高精建图与定位方案将在韩国部署上万辆汽车去做众包高精地图，这也验证了地平线国际化的策略。通过众包方式构建高精度地图，成本和精度都有很大优势。

在未来 5G 所牵引的万物互联的时代，以上两个落地场景带来的一定是数据的爆炸性成长。设备的智能一定离不开边缘人工智能处理器及其软件操作系统和上层应用。地平线的定位是一个做产业发展的赋能者，我们有一句话叫“只造武器不打仗”，即上不碰应用，下不碰数据，做OEM、出行运营商、集成商的赋能者。

目前，边缘计算芯片在实际中的应用还有很多。比如工地，人脸识别大家都看了很多了，但是地平线反而是反其道而行之，注重人脸隐私保护，摄像机本身处理视频时就已经把人脸全部模糊掉了，同时我们还做了一件事情就是检测工人是不是戴了安全帽，我们发现这一点最近在很多国际厂商那边非常受欢迎，因为他们并不接受中国无处不在的人脸识别，他们希望在传过来的时候就把人脸抹掉。这是边缘计算带来的好处，因为你可以把这些计算放在前端的小的设备里。

地平线是一个技术驱动的企业，所以我们和国内的高校，很多顶尖高校特别是南京的东南大学、南京大学都建立了非常紧密的合作关系，包括联合实验室。中国未来的科技发展进入了一个打空间战的阶段，不仅仅是上层的应用要继续做好，下层的计算处理器，计算的操作系统同样要夯实。支撑起中国未来科技发展的不光是需要企业，也需要整个生态，需要企业、高校人才等方方面面地整体互动。

目前，基于自主研发的 AI 芯片及算法，地平线已在全球范围内赋能包括奥迪、长安、理想、禾赛科技、首汽约车、SK电讯在内的众多智能驾驶合作伙伴。未来，地平线将持续发力，聚焦边缘 AI 芯片+工具链组成的基础技术平台的搭建和打磨，为推动客户实现人工智能与行业的深度整合及落地应用提供“加速剂”。