六个“宝石”的边缘智能需求——边缘超级计算将无处不在？

在洛杉矶世界移动通信大会（MWC）上，NVIDIA首席执行官黄仁勋在主题演讲中提到：过去十年，席卷全球的智能手机革命只是一个开始。接下来，将是“万物智能革命”时代的到来。他表示：“NVIDIA将为企业网络边缘和虚拟无线接入网（vRANs）的AI赋能，助力新一代5G无线服务。”

六个“宝石”的边缘智能需求

黄仁勋表示，如今CPU的性能提升速度已经放缓，为了迎接挑战，GPU的计算能力已经比2013年增长了30万倍，而且每万亿次计算能力成本也明显降低了。

AI算法、强大的GPU、智能NIC或网络接口卡、云原生技术，NVIDIA EGX加速边缘计算平台，以及充分释放GPU计算潜力的5G高速无线网络——所有这些元素，黄仁勋将它们比作漫威电影中强大的无限宝石。
“您正在寻找的这六个‘宝石’，会把5G置于边缘之上，进而虚拟化5G数据中心并创建一个智能世界，而这反过来将智能添加到我们周围的一切事物之中，”黄仁勋说，“这将成为一切智能革命的支柱和基础。”

NVIDIA EGX为边缘融入AI、IoT、5G能力

边缘计算是通过使用位于用户边缘终端附近的服务器提供的分布式计算环境。例如，要使用智能手机，需要一组向智能手机提供各种服务的服务器。对于语音通信，交换功能是必需的，并且要使用SMS服务器。这些服务器已实现为固定硬件，具有4G代基站附近的特定功能。

边缘计算获得关注的一个原因很大程度上与AI的实现有关。以自动驾驶为例，当在云端执行自动驾驶车辆处理的一部分任务时，等待时间（响应速度）成为问题。即使等待时间只有几秒钟，汽车也会同时行驶数十米。

因此，现在使用安装在汽车上的AI芯片执行所有基本判断，例如方向盘、加速器和制动操作。在这种情况下，为了进行更高级的自动驾驶，有必要将汽车制造商的边缘服务器放置在通信运营商的基站处并且在汽车之间交换数据。

NVIDIA EGX边缘超级计算平台，定位于高性能的云原生边缘计算平台，经过优化，可以充分利用AI、IoT和5G这三次关键性革命，为全球领先公司提供构建下一代服务的能力。黄仁勋表示：“边缘计算的‘智能手机时代’已经到来，我们必须创造一种新型的计算机来提供这些应用，如果全球经济能在如此普及的技术帮助下，哪怕只是稍稍提高一点效率，那么此机遇所带来的价值就可以用‘每年数万亿美元’来衡量。”

NVIDIA希望通过EGX边缘超级计算平台，让计算能够超越个人和云，在全球范围内运行。该平台将NVIDIA CUDA-X软件与NVIDIA认证的GPU服务器和设备相结合。

EGX平台的软件可支持较为广泛的应用，包括用于构建智能视频分析应用的NVIDIA Metropolis，以及刚刚发布的NVIDIA Aerial 软件开发者套件。Aerial让电信公司能够构建完全虚拟化且高度可编程、可扩展、高能效的5G无线接入网络，终极目标是助力其打造智能工厂、AR/VR和云游戏等新服务。

边缘设备的实时AI能力得以提升

人工智能、物联网、云游戏、增强现实和5G网络加速带来大量机会。根据行业预估，从现在起到2035年，将新增一万亿台全新的物联网设备。设想一下，当数据从传感器（工厂车间、商店货架等场景）流出时，边缘设备通过加速AI计算的性能，将使得智能零售、智能医疗保健、智能制造、智能运输和智慧城市等一切任务皆有可能实现。

在这一进程中，需要强大的边缘计算能力处理海量数据，从而快速制定人工智能增强型决策以驱动业务发展。NVIDIA希望通过EGX超级计算平台，满足对即时、高吞吐量的边缘人工智能——即数据产生之处不断增长的需求，在确保反馈时间的同时减少需要发送至云端的数据量。那么，EGX的优势是什么？

EGX 采用小型NVIDIAJetson Nano，可以为图像识别等任务提供每秒 0.5 万亿次运算 (TOPS) 的处理速度。该平台可以扩展为一套完整的NVIDIA T4 服务器，提供超过 10,000 TOPS 的处理速度，为数百名用户提供实时语音识别和其他复杂的 AI 体验。

在体系结构上，EGX与由主要云提供的 NVIDIA AI 计算相兼容。在云端开发的 AI 应用程序可以在 NVIDIA EGX 上运行，反之亦然。NVIDIA Edge Stack 可以连接主要云物联网服务，客户可以从 AWS IoT Greengrass 和 Microsoft Azure IoT Edge 远程管理其服务。

此外，NVIDIA Edge Stack 已在 Red Hat OpenShift（企业级 Kubernetes 容器协调平台）上进行了优化。Mellanox 智能网卡 (Smart NIC) 可以减轻软件定义网络的负担并实现其加速，从而可实现更高级别的隔离和安全性，而不会影响 CPU 的性能。

不断扩展的EGX生态系统

沃尔玛是全球率先采用EGX的用户，在位于纽约莱维顿的智能零售实验室部署了EGX，该实验室是一个独特的、全面运营的杂货店，致力于探索AI如何进一步改善店内购物体验。利用EGX的AI和边缘功能，沃尔玛能够对每秒产生的超过1.6TB的数据进行实时计算，并能够使用AI自动提醒员工补货，开放新的结账通道，回收购物车，并确保肉类和生产部门产品的新鲜度。

三星电子也开展了早期EGX部署，致力于将AI应用于高度复杂的半导体设计和制造流程。

BMW正在其位于南卡罗来纳州的制造工厂使用智能视频分析技术来实现自动化检测。借助EGX，通过检测线上的多个摄像头和其他传感器收集数据，可助力确保出厂的汽车均为最高品质。

日本电信服务巨头NTTEast正在其数据中心使用EGX；宝洁基于EGX平台开发支持AI的应用程序，以用于产品和包装的检查；拉斯维加斯市使用EGX捕捉车辆和行人数据，以确保街道更加安全；旧金山市联合广场商业改善区（UnionSquareBusinessImprovementDistrict）正在使用EGX为当地零售商捕捉实时行人数量，提升商业工具的智能性……这些都是早期部署EGX的案例。

NVIDIA EGX生态系统包括全球100多家技术公司，从初创公司到成熟的软件供应商、云服务提供商、以及全球服务器和设备制造商。

为加速向边缘计算的迈进，NVIDIA对其服务器认证计划进行了扩展，采用了新名称NGC-Ready for Edge，即基于NVIDIA T4、Quadro RTX 8000和V100 Tensor Core GPU的系统，这些系统能够在边缘运行要求严苛的AI工作负载。Dell Technologies、HPE、联想、QCT和Supermicro等是首批与NVIDIA合作对系统进行认证的公司。如今，来自全球十几家制造商的20多款服务器已经过验证。