如何解决AI落地面临的最后一公里-电子发烧友网

AI很好，但如何才能深入应用于不同行业？AI落地，当前仍然面临着最后一公里的难题。业界普遍认为：数据结合难、业务价值不佳、数据科学人才稀缺、算力成本负担重，是企业落地AI最常见的四大阻力。缩短最后一公里、实现更大量的合作，核心其实是降低门槛、提高效率。

打个比方，假设企业用AI的最终目标是做一个大蛋糕，他需要从种小麦开始吗？当然不是。让企业找到现成的源头，获取面粉、黄油、鸡蛋、模具这些现成材料，才是更省事省力的选择。

英伟达正在携手生态伙伴提供这些“现成的材料”。英伟达刚刚发起的全球首个NVIDIA认证系统，意在通过坚实的技术基础和广泛的生态合作，进一步推进AI在各行各业的泛化能力。

AI基础设施需要一场变革

根据Gartner数据，目前37%的企业机构在生产中使用了AI，预计到2024年这一比例将翻倍至75%。AI是这个时代最强大的技术，但是，它需要新一代经过调整和测试的计算机来推动其发展，也就是说，来自于基础设施的变革迫在眉睫。

英伟达NGC产品管理总监Adel El-Hallak告诉与非网，AI基础设施的变革主要来自于三大颠覆力：爆发的数据量、更大更复杂的AI模型、以及业界对于更好的产品和服务的追求。

一方面，企业试图从不断增加的数据中，总结出隐藏的战略洞察。例如，沃尔玛每小时要处理超过2.5PB的数据，阿里巴巴正在利用AI洞察数据、优化搜索排名和产品推荐。另一方面，短短5年内，筛选这些数据的AI模型规模增长了近3万倍，使用这些数据的模型和工作负载的多样性也在不断扩大。

日益增加的数据量、不断扩大的AI数据筛选模型，导致数据中心和网络边缘的网络流量呈指数级增长。企业如何才能获得更好的产品和服务？一个安全、可靠、高速并且能够有效扩展的基础设施是关键。

解锁大量应用的关键

Adel El-Hallak以计算机视觉围绕图像分类、目标检测等应用的兴起谈到，AI模型解锁了各种各样的不同用例，提供了更好的产品和服务，但模型也变得越来越复杂和庞大。不过，这是一个良性循环，当我们在使用这些产品和服务的同时，也正在生成数据，利用这些数据对模型进行再训练，能够进一步改进现有产品和服务。

不论是从端侧到数据中心，还是从智能网络接入的海量应用，AI基础设施的四大支柱始终是：功能、性能、可扩展性、安全性。基本功能是最根本的要素；性能特征取决于具体用例，是系统的重要指标；可扩展性决定了系统应对不同场景的伸缩能力；安全的数据是优势，必须确保从数据、平台到应用层的所有安全。

为了让其AI技术广泛落地使用，服务器OEM成为英伟达一个很大的突破口。或者说，服务器OEM生态系统的参与让英伟达更加兴奋。

从早期集中在训练场景，发展到在推理场景的大规模应用阶段，AI最终将成为一种基础能力。在这个过程中，服务器始终是重要环节。一方面，AI 算法需要大量的数据和算力来完成任务，依靠云服务来执行计算；另一方面，在提供智能云体验上，由 AI 驱动的解决方案能帮助企业在 AI 时代快速占领制高点。

据Adel El-Hallak介绍，NVIDIA认证系统提供能够企业部署AI所需的性能、可编程性和安全吞吐量。这些系统既结合了基于NVIDIA Ampere架构的GPU算力，还有安全、高速的NVIDIA Mellanox网络。此外，还有包括英伟达CUDA和NGC Catalog的整个软件堆栈的支持。

NGC被认为是这一认证系统背后真正的宝藏。Adel El-Hallak解释，当一个企业购买了NVIDIA认证系统后，NGC目录能够为他们解锁各种各样的应用程序。

NGC目录是适用于深度学习、机器学习和高性能计算的GPU优化型软件中心，包括针对医疗健康的Clara、针对机器人的Isaac等，这些软件套件可以帮助企业快速进入某个垂直细分市场。此外，它还包含帮助企业在推荐系统Merlin和智能视频分析Metropolis等新兴用例中起步的框架。通过NVIDIA认证系统，企业能够使用这些强大的算力硬件和适用范围广泛的软件。