2018英特尔人工智能大会在北京举行,一年来英特尔在布局AI领域的成绩-电子发烧友网

11月14日，2018英特尔人工智能大会在北京举行。英特尔全球副总裁兼中国区总裁杨旭介绍了公司一年来在布局AI领域的成绩，以及关于未来的“AI先锋计划”。AI战略下的具体产业图景，则由Nervana创始人、全球副总裁兼人工智能产品事业部总经理Naveen Rao和英特尔人工智能产品事业部全球数据科学负责人刘茵茵从软件工具、硬件设备，以及社区建设三个层面进行了详细解读。

下面，<机器人文明>将结合应用案例，对英特尔AI战略和产业地图进行梳理。

未来战略

AI先锋计划

会议开始，杨旭先介绍了英特尔一年来在探路人工智能上取得的成果。

首先是技术创新，包括开发49量子位测试芯片、自旋量子位芯片、OpenVINO工具包、开发NercvanaNNP-L1000、视觉技术加速器解决方案（Movidius，FPGA）等。

生态合作方面，构建包括神经拟态研究社区、开源nGraph，与腾讯、百度、阿里巴巴、华为、南京大学AI联合研究中心、第四范式AI联合实验室合作，同时开放AI创新平台。

在应用落地层，与腾讯微信语音识别、百度Apollo、美的工业视觉检测系统、奥林匹克AI挑战赛等深度合作。

据杨旭介绍，在AI推动行业转型方面，英特尔主要应用的领域包括医疗、交通、零售、金融、政府、能源、工业等等行业。

会上，英特尔还推出了“AI未来先锋计划”，包括：

1、前沿研究：人工智能的基础框架和平台、模型及优化算法、多模态融合、云服务器平台设计、边缘人工智能、网络智能、模拟环境、FPGA、大数据和高性能计算，以及针对自然语言、视觉、自动驾驶、互联网、金融、制造、医疗和教育等特定具体领域的智能应用技术；

2、师资建设：助力高校和中小学人工智能教学，支持教师智能素质培养，帮助教学利用智能工具和资源；

3、人才培养：以英特尔人工智能学院为代表，助力中国高校的教学实践和人工智能专业课程建设，提供线上线下资源；

4、产业对接：与高校合作伙伴共同探索HPC与人工智能融合的创新实践。

“推动人工智能的长远发展，是一场全新的马拉松，需要生态合作的不断深化。我们将把这个计划长期推进下去，英特尔与中国高校、科研机构及教育界的合作也将持续拓展和深入。‘AI未来先锋计划’是开放式的，未来将有更多合作伙伴加入其中。”杨旭表示说。

产业地图

软件工具+硬件设备+社区

对于英特尔在AI产业的重点布局，Naveen Rao认为“AI革命就是计算的演进”，这就要求AI必须具备多元化工具：“英特尔提供更多选择，包括软件工具、硬件设备，以及智能社区。”

特征

软件工具：加速AI发展，持续优化提升性能，助力更加快速、便捷的AI部署；

硬件：AI并非“一策万能”。从通用到专用，从毫瓦到百瓦，提供广泛的方案组合；

社区：以开放合作来解决复杂挑战，并与学术社区一起探索最佳解决方案。

四款软件工具

助力硬件性能优化

MKL-DNN

是面向深度神经网络的英特尔数学核心函数库，包含矩阵乘法、批量归一化、池化、激活和卷积等，深度学习软件框架提供了高度优化内核，可以帮助开发人员发挥英特尔硬件的最大性能。

nGraph

对于开发者来说，需要选择适合自己的深度学习框架。nGraph是一种跨英特尔所有硬件的统一中间层编译器，可以为开发者提供高灵活性和兼容性，降低开发难度，提升开发效率。

BigDL

是英特尔开发的分布式深度学习库，运行在现有的Spark集群之上，可以加快对大型数据集的深入学习，同时支持Scala和Python。

Open VINO

是一款软件工具包，专为在边缘部署深度神经网络而设计，可以快速优化和压缩经过训练的视觉模型，并将其部署在英特尔硬件和加速器上。应用深度学习框架时，关键性能会获得重大提升，且无需大幅调整当前的部署方式。

四大处理器加持

赋予多元化应用能力

人工智能的生态系统包括核心算法和芯片处理器，软件工具，以及终端硬件开发，产品形式的多样性决定了并不存在单一的“最佳”硬件能够运行各种各样的人工智能应用。因此，从数据中心到边缘再到设备所需的硬件能力都会有所差别。

如何满足这样的多样化需求？英特尔从四个维度给出了具体解决方案。

英特尔至强可扩展处理器：擅长大量非结构化语音和文本数据进行训练和推理

相较于GPU，CPU架构更能满足现实情况中的深度学习应用需求。英特尔推出的这款平台，针对流行框架的训练速度提升了1.4倍以上，INT8推理速度则提升了近5.4倍。随着新一代至强可扩展处理器的推出，推理速度有望提升至11倍。

这些数据最终落地在应用层面，有哪些性能提升？

以英特尔和原研药企业诺华的合作为例：

对于制药企业来说，高内涵筛选是原研药的重要研发工具，但它是一项极具挑战和费时费力的工作，需要从图像中提取数千个预定义特性。利用深度学习技术可以加快细胞培养显微镜图像的分析，从而快速完成各种治疗的效果研究。但一个显著的问题是，由于使用了完整的显微镜图像，图像尺寸比普通深度学习基准中使用的图像尺寸大得多，是ImageNet数据集中图像尺寸的26倍以上。

训练模型参数多，图像数量多、尺寸大，对算力和内存容量提出了更高的要求。通过至强可扩展处理器、英特尔 Omni-Path架构和TensorFlow v1.7.0搭建的系统进行训练后，最终成功将训练时间缩短20倍。

下一步，英特尔将为人工智能重塑至强，Cascade Lake是将要推出的新款处理器，支持英特尔傲腾数据中心级持久内存以及全新的AI功能——英特尔 DL Boost。这种人工智能加速技术将加速深度学习推理工作负载，图像识别能力相比当前英特尔至强可扩展处理器得到提升，Cascade Lake计划明年发布。

FPGA：实现实时推理，大吞吐量和低延迟

FPGA无指令，无需共享内存，可以同时拥有流水线并行和数据并行，因此对流式计算任务，FPGA比GPU有明显的延迟方面的优势，是搜索、语音识别、视频分析等深度学习应用的重要工具。

英特尔与微软的和合作，应用到了FPGA的这些优势。

微软Project Brainwave是建立在英特尔FPGA基础上的一个深度学习加速平台。基于FPGA的经济性和极低延迟等特点，Project Brainwave实现了实时推理。

在此基础之上，由Project Brainwave提供支持的Azure机器学习加速硬件让开发人员和数据科学家能够在Azure和边缘计算中运行实时模型。目前，应用领域涵盖制造业、零售业和医疗保健等。

除了传统产业，以FPGA为架构的深度学习平台也可以应用于新兴行业。以互联网为例，微软同时将Project Brainwave应用于新的必应搜索功能，以缩短搜索时间并让搜索结果更加智能化。必应通过机器学习和阅读理解能快速提供智能化答案，帮助用户更快地找到想要的答案，而不是提供链接列表让用户去手动检查答案。性能上，英特尔FPGA能让必应将模型的延迟缩短到10倍以上，同时将模型尺寸增加10倍。

Movidius Myriad视觉处理单元：在边缘端实现视觉智能

相较GPU，VPU有更强大的视频处理能力，可以全面优化图像，提升画面细节，让动态画面无比顺畅，在同等分辨率下，带来更好的视觉体验。

它的性能究竟有多强大，可以拿谷歌的案例从侧面说明。

去年十月，谷歌发布了智能摄像头Google Clips，由AI核心驱动。其中的“核心”，就是英特尔的“Movidius Myriad 2 VPU”。这款具有低功耗、高性能的VPU，可以直接在相机上实时运行高级机器学习算法，在边缘设备完成视觉处理，最终实现自动捕捉和管理家人、朋友和宠物的动态照片等智能化功能。

具体来说，Movidius VPU可以实现的目标应用包括嵌入式深度神经网络、姿态估计、3D深度感测和手势/眼睛跟踪等，而这些性能都是直接在迷你的相机设备中集成。而除了应用于相机，Movidius VPU也在视频分析、机器人和增强现实等领域实现应用。

Nervana神经网络处理器：新一代训练和推理

人工智能模型的复杂度不断增加，对内存的需求也越来越大。深度学习的进一步发展需要解决内存限制问题，而当前的解决方案无法利用所有可用计算，业内人士逐渐意识到需要专用的芯片来支持深度学习训练和推理。

Nervana神经网络处理器是针对深度学习建构的全新解决方案，目的是为了解决内存限制问题。采用大量高带宽内存和SRAM，更靠近实际进行计算的位置，也就是说芯片上能够存储更多的模型参数，可以有效节省功耗并提升性能。

该处理器预计将于明年正式推出商用，目前，英特尔正与Lake Crest软件开发工具(SDV)方面的主要客户合作进行NNP开发和测试。

更多应用

软、硬和算法结合下的解决方案

Movidius Myriad X & OpenVINO：视觉加速器的智能交通解决方案

基于英特尔Movidius VPU的视觉加速器是一款可以结合英特尔 OpenVINO的工具套件，提供强大的深度神经网络推理能力，实现快速、准确的视频分析处理。

RL Coach & python：帮助开发者训练和开发人工智能Agent

Coach是一个基于python开源强化学习框架，帮助开发者训练和开发自己的人工智能Agent，支持最先进强化学习算法，并与多个仿真场景集成，方便开发者使用。

OpenVINO & FPGA：开发车牌识别系统

OpenVINO是英特尔开发的免费工具包，支持高性能机器视觉以及深度学习推理应用场景。基于英特尔®FPGA PAC加速板（Arria 10）的深度学习示例，用深度学习算法检测车辆/车牌，车身颜色/类型，以及车牌内容识别。

DL BOOST & AVX-512：加速深度学习处理器技术

DL Boost是一套用来加速深度学习的处理器技术，基于AVX-512扩展新的矢量神经网络指令集。性能提升11倍，更好的TCO，为终端用户提供更一致性的体验。

神经计算棒2 & OpenVINO：方便智能设备原型开发

本次发布会上，英特尔推出了英特尔神经计算棒二代（英特尔NCS 2），利用该计算棒可以在网络边缘构建更智能的AI算法和计算机视觉原型设备。英特尔NCS 2基于英特尔 Movidius Myriad X视觉处理单元（VPU），并得到英特尔 OpenVINO工具包的支持，与上一代神经计算棒相比性能更优，能够以可负担的成本，加快深度神经网络推理应用的开发。

合作案例

商业及公益

浪潮集团：基于FPGA加速方案的实时图像分类应用

由浪潮NF5280M5 AI服务器及4片浪潮F10A FPGA加速卡提供计算力支撑，进行高效率、低延迟、高准确率的实时图像分类。浪潮F10A FPGA卡内置英特尔® Arria® 10 FPGA芯片，提供强劲性能。

地平线科技：视觉感知方案基于英特尔 Arria 10 FPGA

地平线360度视觉感知系统搭载三块地平线自主研发的Matrix，该方案基于英特尔 Arria 10 FPGA，自动驾驶计算平台通过摄像头安装位置的合理布局，以实现车身周围360无死角视觉感知检测。

XForce是基于地平线BPU2.0处理器架构的FPGA边缘AI计算平台。通过算法与芯片深度结合的软硬件联合优化，XForce在功耗和性能方面相对GPU拥有更明显的优势，目前支持人体行为分析、视频结构化等功能。

汇医慧影：将至强可扩展处理器应用于治疗乳腺癌

汇医慧影打造的“人工智能乳腺癌全周期一体机”，可以实现快速筛查、治疗、预后等功能。通过和英特尔合作，该机器算力得以加强。以至强处理器为基础，可实现3D无监督学习，小样本图像建模，多维度数据建模等功能。

青云：搭载至强可扩展处理器强化深度学习

青云深度学习平台搭载英特尔至强可扩展处理器与面向英特尔架构优化的Caffe深度学习框架，进行人脸识别，目标检测，词向量训练等深度学习任务。

借助“角蜂鸟”实现了实时的人脸识别程序。可在低算力的设备上运行，可现场入库，支持单张人脸入库、多张人脸入库。