华为全栈全场景AI架构和应用

1月14日，2019深圳机器人创新与发展论坛上，来自华为公司企业业务全球marketing副总裁李俊朋先生为我们带来主题为《华为全栈全场景AI架构和应用》的主题演讲。

华为全栈全场景AI架构和应用

李俊朋，现任华为企业业务全球Marketing副总裁。拥有十几年ICT领域工作经验（包括近10年国际市场经验），担任跨国系统部VP，区域VP等多个重要职位。2018年起担任华为企业业务全球Marketing副总裁，负责企业业务市场管理，以及人工智能等新ICT领域Marketing工作。

▲华为公司企业业务全球marketing副总裁 李俊朋

大家好，前面的各位教授和各位专家讲得非常好，非常深入，我代表华为企业市场来给大家做应用方面的汇报，我汇报分为两个部分：华为全栈全场景AI架构与方案、华为AI应用案例。

我们讲的AI偏技术和产业比较多，还有一大部分是偏应用的，AI应用到哪些领域，给企业带来哪些价值，这也是非常重要的方向，所以，我今天的讲解包含这两部分的内容。希望华为的AI架构和应用案例，能为做AI产业的企业家们提供例子，为产业做大提供方向借鉴。

首先，我们华为对企业做了一个分析，基于业界的一些报告，对各行业AI的发展情况有个大致的了解。我们可以看到图的右上角的几个行业，这几个行业代表了数字化程度比较高的行业，也就是说数字化转型做得比较成熟的企业，同时它在AI的应用程度和深度也比较好。同时以BAT为代表的一些代表企业，还有一些银行等等，这些企业AI应用方面也做得比较深入。目前高速发展还有一些领域，比如零售、机场，还有一些电力、教育、化工这些产业都会逐渐在AI上增加一些应用。我们目前看到一些数字，企业总体只有4%在应用AI，以零售为例，仅2%，相信未来会有一些增长。各大国都在发布AI战略，我相信这里面的人工智能制造战略，比如说我们国家新一代人工智能三年行动计划，以五年为周期，从2020年开始到2030年有两个五年计划对AI进行大力的扶持，其次美国、日本对AI战略重视程度也很高，在AI的整个发展里面我们做了一些分析，中国排名第二，不管是企业数量、投资金额、AI人才和专利等相关数量来说，中国排第二，美国排第一，这里面相对来说，靠前的是中国和欧美，其次是日本。

从华为的视角来看，AI发展和面临的挑战还很多。为了把AI从实验室加快应用到工业等领域，我们认为需要推动在以下十个方面进行改变：

第一，从训练时间上来说，过去训练一个AI可能需要数日或者数月，现在很多产品，包括边缘和智能设备，仅需要几分钟或者几秒钟就能训练起来。

第二，以前算力稀缺且昂贵，现在是经济的。

第三，过去AI主要体现在云上面，有少量是在边缘。现在开始看到一个趋势，就是端的智能化会大大加速，从联接的方面是无所不在的联接，从智能方面是无所不及的智能，这是两个核心支柱。

第四，算法向数据高效、能源高效、安全可解释发展。

第五，没有人工就没有智能，原来是人工做数据标注的，现在我们可以通过自动化和半自动化工具完成。

第六，模拟系统考试优秀向工业级工作优秀转变，美国大学的教授，他提了一点，我们有一些模型和算法做出来以后，在实验室或者在比赛里面是比较厉害的，得了高分数，但是在实际场景里面的分值会大幅下滑，从模型优秀到工业级优秀需要努力。

第七，现在算法非实时更新，以后要做到实时的更新。

第八，当前AI与其他技术联接不充分，主要指一些物联网的技术。

第九，AI当前是一项高级技能专家的工作，我们希望通过一站式平台，将高要求的一个专家系统变成一个普通工程师也可以用的，这点非常重要。

最后一点需要改变的是数据科学家的稀缺，我们希望通过学术界产业界全体努力，数据科学家、领域专家，以及数据科学工程师可以协同起来，致力于AI的发展。

接下来是华为AI发展战略，其实刚才媒体也问了我一些问题，这里系统讲一下：

第一，投资的领域，在计算机视觉处理等方面，华为将进行长期的技术研究投入。

第二，打造全栈方案。这个全栈方案已经讲了，面向未来的趋势，我们解决向边缘和端的延伸，从过去只在云一个范围的计算，变成到未来从云到整个边缘和终端的端到端的一个方案。

第三，AI人才培养。华为加入了业界主要AI产业联盟，也做了一些自己的贡献，同时我们还和一些科研机构、高校的合作，比如中科院、中科大，以及加州伯克利分校等进行合作和人才培养。未来三年，华为公司计划投入十亿人民币来推动AI人才的培养。最后两点，华为打算把AI用到什么地方，其实有两个层面：

第一，内部效率的提升。华为业务遍布全球100多个国家，我们整个供应链和合同的处理，包括我们员工的很多内部事务将逐步用AI来处理，把一些大量重复人工劳动给剪掉，这是内部；对外是解决方案的增强，所有方案面向企业，我是代表企业来说，所有企业的解决方案和产品都会把AI的能力注入进去，为客户带来更多的价值。

我们来看一下华为的全栈全场景的解决方案。从场景上来说，我们的愿景是全场景的布局，包括公有云、私有云，边缘计算，以及各种行业物联网终端和消费者终端等部署环境。包括手机和智能可穿戴设备，从场景来说是全场景的。全栈方面，由下至上也是包含全场景的技术，现在业界炒得比较热的是我们的AI昇腾芯片，今年已发布两个芯片，一是昇腾310，另外是一个是昇腾910，此外，还有三个比较重要的地方，第一个就是CAAN就是基于神经网络开发的芯片算子开发库，再上一层就是端边云统一的训练和推理框架，这个我们今年也会出现，我们叫Mind spore，上面是我们一站式开发平台ModelArts，可以为开发者提供从数据标注、建模、训练及AI应用开发的全流程的服务，过去只有少量的专家才可以开发AI，现在普通程序员就可以进行轻松实现。这里面大概介绍一下华为昇腾AI芯片，包括310和910，昇腾310是面向边缘计算的场景非常适合的AI SoC，提供极致高效计算和低功耗，单芯片算力， 高达16TOPS，功耗仅8W；910是全球已发布的单芯片计算密度最大的芯片，用在分布式大规模训练场景，从左到右是从蓝牙耳机到智能手表，再到边缘计算，各种型号的芯片都有，我们以TOPS/W单位能效这个指标来衡量芯片性能，比如说我们在上海HC大会的时候，使用华为昇腾310，与业界同类芯片进行一个蝴蝶图片识别性能的对比，昇腾310的处理速度快了很多。华为昇腾AI芯片是基于华为自己的达芬奇架构，达芬奇架构有几个特点：一是可扩展计算，芯片的计算单元是可以纵向扩展的；二是可扩展内存，这个与计算机冯诺依曼架构不太一样的；三是片上扩展，基于LSU可以扩展。除此之外，我们昇腾系列芯片的算力和功耗涵盖了非常大的范围，适合端到端的应用，我们看算力的范围是1000万倍；功耗方面，从蓝牙耳机到昇腾910的覆盖范围20万倍的差别，从1毫瓦到200毫瓦的范围都有，这些范围基于达芬奇架构能提供用户的便利是什么呢？就是只需要一次软件开发，就可以横跨端边云进行部署，很少有其他厂家的芯片架构可以覆盖这么大的范围，因此，无论是算法的迁移还是搬运，就会快非常多，一次AI开发可以覆盖多数的场景。

这里是MindSpore，我们看看和业界的不同，有一个循环，循环以后是从云推送到边缘和端的，一方面是依赖推送网络；另一方面跟芯片的统一架构是相关的，统一架构下可以实现比较快的推送，同时在协作训练和推理方面，从端到边缘，到云的反馈也会更容易、更快处理。这是MindSpore框架的特点。另外，我们介绍下，更快的、普惠的开发平台，什么叫普惠呢？一些零代码基础的初级开发师或者中级工程师都可以在这个平台上进行开发，这个平台上华为有自己核心的分布式数据库，这个与以前是不同的，可以实现：

第一，可以结合大数据技术进行数据自动筛选和标注。

第二，针对AI结构化数据的存储，可以直接面向AI应用储存数据，在数据处理和AI开发效率方面都有极大的提升。最近，我们在斯坦福DAWN Bench权威基准的图像识别训练测试排名中，华为云 ModelArts用时10分28秒，拿下最新全球第一，比亚马逊节省44%时间（同样条件下，亚马逊在Fast.ai测试的最好成绩是18分钟）。

以上是华为公司全栈全场景AI架构和方案的介绍。

▲华为公司企业业务全球marketing副总裁 李俊朋

第二部分更为重要，AI能用到什么样的企业场景，如何切实帮助企业提升生产效率和智能化水平，我这里基于华为的一些经验进行分享。主要包括比较大的行业，比如说金融、交通、安防、物流、园区等五大场景的AI应用实践。

首先，讲下AI在金融领域的应用，一是图象识别，图象识别应用于银行取款的例子比较多，比如人脸识别转账这些已经有实际应用；二是自然语言的处理。举两个例子，广大的互联网领域有大量的文本数据，文本数据有企业、政府招投标的公告，这些公告可以通过自然语言处理技术进行一些AI自动化分析，分析哪些企业中标，从而发现对公业务的商机。还有一部分是针对企业和个人的风险的分析，比如说，有一些法院的判决书出来，可以通过自动分析系统，分析某某企业或者某某人存在风险的，针对这些对象的贷款业务可以进行更好的风险规避。目前招行已经在这方面有实践。

第二个场景是交通，我们去年与深圳交警联合创新，获得世界智慧城市博览会第一名的大奖。通过创新实践，深圳交通的死亡率以及交通堵塞时间，相比过去有明显的下降。我们来看下小视频，AI辅助执法，通过智能摄像头捕捉司机开车期间危险动作，比如开车玩手机，不系安全带，吸烟等都会被智能摄像头捕捉到，并主动上传违法图片至交警系统并告警，整个过程是自动完成的。这带来什么样的好处呢？第一个好处是，执法效率的提升，过去交警每个月需要比对900万张照片，现在需要只比对400万张照片，为什么呢？因为50%筛选工作通过AI来完成了，从而提高了执法的效率。另外一个案例就是Traffic GO，我们在华为坂田基地附近选择了一些路口，坂田1.5平方公里的范围内车辆出入非常多，因为光华为员工的车辆都有一万多辆，造成的拥堵非常厉害。Traffic GO上线后，以前是车看灯，现在是灯看车结合智能摄像头等多种监控手段，哪些路口车流量比较大可以分析出来，相应路口的绿灯时长就更长些，方便车流量大的路口快速疏导。我们算了一下，能提升15%的早晚高峰通行速度，大概可以节省大家10分钟的上班时间。这样，省出来的时间可以快速睡个懒觉，这对广大的上班族来说是非常宝贵的10分钟。在机场实践方面，深圳机场在积极探索未来机场的AI极致体验，比方说提升靠桥率，结合AI，靠桥率可以提升10%。我们知道深圳机场每天起降的航班实在太多了，每天有1000个航班起降，运营压力非常大。提升10%意味着每天100个航班的乘客可以不需要乘坐摆渡车，节省的时间是相当宝贵的。这里智能助导航也可以提升飞机靠桥的效率。

再有就是安防领域的人工智能应用，SDC软件定义摄像机，用了华为升腾310芯片，可以同时捕捉包括人、车、物在内的200个对象，比普通摄像头提升了10倍，不管是汽车或者人或物，智能摄像头可以把识别到的标志物进行实时的结构化处理，结构化以后存到系统里面，一旦发现异常可以把照片和视频实时提取出来给交警。在园区智能方面，我们与万科未来之城联合创新的智能系统，这里有个小视频，可以看到，如果不戴安全帽是无法进入工地的，这也只是园区其中一个智能的场景。另外，就是与九州通医药流通公司，有了AI智能规划以后，拣货员在仓库拣货行走的步数从30000步减少到20000，效率提升近30%，从而也带动装箱效率和物流效率的提升。零售方面已经进入智能新时代，有些城市已经有了无人超市，整个购物过程，不需要售货员、收银员，从进入无人超市选购商品到离开，系统自助识别扣款，整个过程无需人工干预。这里面涉及整个智能系统的参与才能实现。最后是医疗+AI的例子，华为与一些医学院针对病理的筛选做联合创新。因为病理专家的稀缺，根据预测全国宫颈癌病理的筛选完成需要20年的时间，但借助采用AI方式，效率可以提升5到10倍，这是非常可观的，病理医生可以腾出时间专注于更复杂的医学研究。最近，华为医疗影像团队在超声图像分割与测量领域取得技术突破，在胎儿超声影像头围测量比赛(HC18)上以1.89mm的平均绝对误差取得第一。

最后讲一下华为的愿景和目标，我们的目标不是自己做AI，而是坚持“平台+AI+生态”的战略，在推动产业共识、探索产业增值、繁荣应用生态方面做出应有的贡献。

▲华为公司企业业务全球marketing副总裁 李俊朋接受媒体采访

同时，我们希望在AI生态非常复杂的情况下，为企业打造一个平台，跟企业一起合作把AI做出来，应用到该应用的场景里去，把生态做好。同时，未来三年我们计划发展100万个开发者，投入10亿人民币用于AI人才培养。今天的演讲到此结束，华为致力把数字世界带入每个人、每个家庭、每个组织，实现万物互联的智能世界，谢谢大家！