首款面向边缘设备的AI平台Nvidia EGX发布!将 AI 带到网络的边缘

英伟达最新发布首款面向边缘设备的AI平台Nvidia EGX，将 AI 带到了网络的边缘。该平台可以实时感知、理解和处理数据，而无需先将数据发送到云端或数据中心。

在今天台北电脑展COMPUTEX 2019上，英伟达带来了一项重大发布：推出首款面向边缘设备的AI平台Nvidia EGX。

此外，发布会还公布了另几项好消息，包括将最先进的RTXGPU 带到了笔记本电脑上，免费提供带有实时光线追踪的体验版游戏等。

新的Nvidia EGX平台，将AI带到了网络的边缘。该平台可以实时感知、理解和处理数据，而无需先将数据发送到云端或数据中心。

将AI应用到智能手机、传感器和工厂机器等边缘设备上，是AI技术发展的下一步。最早的AI算法非常复杂，只能在运行在云端数据中心的强大机器上处理，这意味着要通过网络发送大量信息。但这是不可取的，因为这样做需要大量带宽，并且会导致更高的延迟，使得“实时”非常难。

“在[物联网]传感器的增长推动下，计算行业发生了巨大的变化，”英伟达企业与边缘计算高级主管Justin Boitano在新闻发布会上表示。“有用于观察世界的摄像头，用于聆听世界的麦克风，还有一些设备可以让机器探测到现实世界正在发生什么。”

这些都意味着需要分析的原始数据量正在呈指数增长。

“我们很快就会到达一个交叉点，在这个交叉点，边缘的计算能力比数据中心更强，”Boitano说。

企业真正想要的是让AI在数据产生的地方执行，无论是在制造设施、零售店还是仓库。领先的科技公司一直试图解决的问题，包括最近英特尔也推出了其首款面向边缘计算的10纳米“Ice Lake”芯片，此外，许多初创公司也推出了这类芯片。

但英伟达进军AI领域的举动引人注目，因为英伟达的GPU被广泛认为是最好的AI处理硬件之一。其中包括用于深度学习的Tesla V100，以及能够实时进行光线追踪的Quadro GV100。

英伟达边缘AI平台三大特性

新的NVIDIA EGX平台专为边缘新型的高吞吐量AI应用而设计，其中数据来源可实现即时或保证响应时间，同时减少云带宽。

EGX平台是可扩展的。可以从基于Jetson Nano处理器的轻型服务器扩展到基于NVIDIA T4的边缘服务器的微型数据中心，前者每秒可执行0.5万亿次操作，仅需几瓦特；后者每秒可执行10,000万亿次操作。芯片的节能能力对AI来说非常重要，因为传统硬件在运行这类任务时耗电量巨大。

Justin Boitano表示，到2025年，全球将有约1500亿台机器传感器和“物联网”设备，因此对NGX这样的平台的需求将是巨大的。他说，其中许多传感器将用于“智能城市”等项目，并将输出需要在现场处理的数据，原因包括需要更低的延迟、实时响应、数据主权规则或隐私方面的担忧。

“无论是视觉方面还是在语言方面上，AI确实是所有行业的杀手级应用，”Boitano说。

如果人们真的想要充分利用这些芯片，那么合作关系也很重要。出于这个原因，Nvidia正在将运行在EGX上的Nvidia Edge Stack软件与Red Hat公司的OpenShift Kubernetes容器编排平台相整合，以使其与现代软件应用程序兼容。

该平台还集成了来自Mellanox technologies Ltd.的安全、存储和网络技术。英伟达计划在年底前以69亿美元的价格收购这家公司。

总结而言，NVIDIA EGX具有以下特性：

高性能和可扩展

EGX从小型的NVIDIA®Jetson Nano™开始，几瓦的功率就可以提供每秒0.5万亿次(TOPS)的处理操作，用于图像识别等任务。此外，EGX可扩展到所有的NVIDIA T4服务器，提供超过10,000 TOPS，可以为数百名用户提供实时语音识别和其他复杂的AI体验。

混合云和多云物联网

NVIDIA EGX在架构上与主要云提供的NVIDIA AI计算兼容。在云上开发的AI应用可以运行在NVIDIA EGX上，反之亦然。NVIDIA Edge Stack连接主要的云物联网服务，客户可以通过AWS IoT Greengrass和微软的Azure IoT Edge远程管理他们的服务。

企业级和安全性

NVIDIA Edge Stack在领先的企业级Kubernetes容器编排平台Red Hat OpenShift上进行了优化。Mellanox Smart NIC可以卸载和加速软件定义的网络，从而在不影响CPU性能的情况下实现更高级别的隔离和安全性。

Mellanox的首席技术官Michael Kagan说：“Mellanox Smart NIC和交换机为从边缘到超大规模数据中心的数据访问提供了理想的I/O连接。”

NGX还与运行在主要云基础设施服务(如AWS和Microsoft Azure)上的AI应用程序兼容，并可以连接到物联网服务，如AWS Greengrass和Azure IoT Edge等。

笔记本电脑也可以用英伟达最先进的专业级GPU

作为Computex 2019新闻发布会的一部分，英伟达宣布了全新的“笔记本电脑品牌认证推广计划”，即Nvidia RTX Studio。

首款支持的是Quadro RTX 5000，与台式机版本相同，有3072颗CUDA核心、48颗RT核心、384颗Tensor核心和16GB GDDR6 RAM，专为那些从事大量图形或视频工作的专业人士而设计。

首批共有7家合作伙伴公司(华硕，戴尔，惠普，微星，雷蛇，技嘉和宏碁)的一共17款笔记本电脑由，这些笔记本电脑将搭载新的Quadro GPU，都以“RTX Studio”的名称命名。

用英伟达GeForce软件与技术总经理Jason Paul的话说，这些笔记本将能够“随时随地”提供“桌面级性能”。英伟达还宣称这些笔记本的运行速度比同等级的MacBook Pro快7倍，配备32GB RAM和AMD的Pro Vega 20 GPU。

One More Thing：快来玩带光线追踪的《雷神之锤2》

在今年GDC上，英伟达展示了实时光线追踪加强版的《雷神之锤2》demo，新技术加持后的老游戏魅力大放异彩，收获了非常多的关注。

今天在Computex上，英伟达宣布将从6月6日起免费向玩家提供《雷神之锤2 RTX》的体验版本，大家可以亲身体验堪称游戏革命的实时光线追踪技术了！

据介绍，这个体验版总共只有三关，之后可以通过NVIDIA官网或Steam下载。NVIDIA内部的Lightspeed Studios为游戏加入了更真实的光影效果，比如即时光线、间接照明、水面反光等视觉元素在作品中都可以找到。