在 Azure 机器学习上充分发挥 NVIDIA AI Enterprise 的强大功能

AI 正在深入各行各业的转型，助力流程实现自动化，也为技术的快速发展带来新的创新机遇。也有越来越多的企业意识到了将 AI 整合到企业运营中的价值，但也随之面临各式挑战，包含如何以高效、有效且可靠的方式实现这些技术的落地。

NVIDIA AI Enterprise 是一款全面的软件套件，专门用于帮助企业大规模实现企业就绪的 AI、机器学习（ML）和数据分析，并提供安全性、可靠性、API 稳定性和企业级支持。

什么是 NVIDIA AI Enterprise？

部署 AI 解决方案可能十分复杂，不仅需要专业的软硬件，也需要开发和维护这些系统的专业知识。NVIDIA AI Enterprise 通过提供了针对企业环境定制的工具、库、框架和支持服务的完整生态系统来应对这些挑战。

借助 GPU 加速计算能力，NVIDIA AI Enterprise 使企业能够更加高效、更加节省成本并且大规模地运行 AI 工作负载。NVIDIA AI Enterprise 基于 NVIDIA CUDA-X AI 软件堆栈建立，可提供高性能的 GPU 加速计算能力。

该套件包含：

1. VMI：预配置的虚拟机镜像，包含必需的驱动程序和软件，以支持各主要云中的 GPU 加速 AI 工作负载。

2. AI 框架：可在 VMI 中运行的软件（如 PyTorch、TensorFlow、RAPIDS、支持 TensorRT 和 ONNX 的 NVIDIA Triton 等），作为 AI 开发和部署的基础。

3. 预训练模型：可按原样使用，或在企业相关数据上进行微调的模型。

4. AI 工作流：预安装的参考示例，用于说明如何使用 AI 框架和预训练模型，以解决常见业务问题。这些工作流围绕预训练模型微调和 AI 模型创建提供指导，以便在 NVIDIA 框架的基础上进行构建；重点介绍了创建应用的管道，并提供了有关如何部署自定义应用并将其与企业环境中常见的各种组件（如编排和管理软件、存储、安全以及网络）集成的意见。

可用的 AI 工作流包括：

• 智能虚拟助理：提供全天候联络中心协助，可降低运营成本。

• 音频转录：通过 GPU 优化模型实现全球领先的精准转录。

• 数字指纹威胁检测：对网络安全威胁检测和警报进行优先级别排序，更快地识别和行动。

• 商品预测： 通过个性化的产品推荐，提升客户互动和留存。

• 路线优化：通过车辆和机器人路线优化，减少移动时间、降低燃料成本。

支持的软件和版本分支

使用 NVIDIA AI Enterprise 软件的主要优势之一是，能够获得 NVIDIA 以安全性和稳定性为原则的支持。NVIDIA AI Enterprise 包含三个版本分支，可满足各个行业及用例的不同需求：

1. 最新版本：该分支面向需要顶级软件优化的用户，按每月发布一次，确保用户能够获得最新的功能和优化。CVE 补丁程序和错误修复也包含在滚动式版本中。

2. 生产版本：该分支专门用于优先考虑 API 稳定性的环境，将每月接收 CVE 补丁和漏洞修复，每年发布两个新分支且每个分支的生命周期为 9 个月。为确保无缝过渡和持续提供支持，两个连续的生产分支之间将有 3 个月的重叠期。生产版本分支将于 2023 年下半年推出。

3. 长期版本：该分支专为需要长期支持的高度监管行业所量身定制，将每季度接收 CVE 补丁和错误修复，并为特定版本提供长达 3 年的支持。除了这一长期稳定性之外，还有 6 个月的重叠期以确保版本之间的平稳过渡，从而为受到高度监管的行业提供其所需使用寿命和一致性。

图 1. NVIDIA AI Enterprise 的三个版本分支可满足各个行业和用例的不同需求

如何结合使用 NVIDIA AI Enterprise

与 Microsoft Azure 机器学习

Microsoft Azure 机器学习是一个用于在云端和本地进行 AI 开发的平台，包含了用于训练、实验、部署和监控模型的服务，并且能够为大语言模型设计和构建提供提示流。作为一个开放平台，Azure 机器学习支持所有流行的机器学习框架和套件，包括 NVIDIA AI Enterprise 提供的框架和套件。

将 NVIDIA AI 软件与 Azure 机器学习训练和推理平台集成，优化了前者的运行体验。用户无需再花时间设置训练环境、安装软件包、编写训练代码、记录训练指标和部署模型，即可充分利用 NVIDIA 企业就绪软件的强大功能，并在 Azure 机器学习高性能、安全基础设施的加成下，构建生产就绪 AI 工作流。

如开始使用，请按照以下步骤操作：

1. 登录 Microsoft Azure 并启动 Azure 机器学习工作室。

2. NVIDIA AI Enterprise 预览版注册表中查看并访问所有预构建的 NVIDIA AI Enterprise 组件、环境和模型（图 2）。

图 2. Azure 机器学习上的 NVIDIA AI Enterprise 预览版注册表

3. 在工作区中使用这些资产，通过简单的拖曳操作在设计器中创建 ML 管道（图 3）。

图 3. Azure 机器学习中使用 NVIDIA AI Enterprise 组件的管道

用例：人体姿态估计

NVIDIA AI Enterprise 预览版注册表中的各种元素使用起来非常简单。本示例展示了一项使用 NVIDIA DeepStream 进行人体姿态估计的计算机视觉任务。NVIDIA TAO 工具套件提供了人体姿态模型的基础，并能够使用新数据对其进行完善。

图 4 展示了一个运行 NVIDIA DeepStream 示例应用程序进行人体姿态估计的视频分析管道。该应用在 GPU 集群上运行并且能够轻松调整，以便使用更新的模型和视频，从而解锁 Azure 机器学习平台的强大功能。

图 4. NVIDIA TAO 工具套件和 NVIDIA DeepStream 使用 Azure 机器学习进行人体姿态估计

该示例包含两个基于 URI 的数据资产，用于存储 DeepStream 示例应用命令组件的输入。这些数据资产使用的预训练模型，在 NVIDIA AI Enterprise 注册表中随时可用，还包含额外的校准和标签信息。

DeepStream 人体姿态命令组件被设置为使用 Microsoft Azure Blob 存储。该组件会监控输入目录中是否有需要推理的新视频文件。当出现视频文件时，该组件会拾取并执行人体姿态推理。输出的视频加入了边界框和跟踪线，并存储在输出目录中。

该注册表中的其他示例包括：

• bodyposenet

• citysemsegformer

• dashcamnet

• emotionnet

• fpenet

• gazenet

• gesturenet

• lprnet

• peoplenet

• peoplenet_transformer

• peoplesemsegnet

• reidentificationnet

• retail_object_detection

• retail_object_recognition

• trafficcamnet

每一个示例都可以通过基于TAO 工具套件的训练管道执行迁移学习并加以改进。模型的输出结果会根据具体的用例发生变化。您可以在 NGC 上找到 TAO 工具套件的计算机视觉示例工作流程。

开始在 Azure 机器学习上

使用 NVIDIA AI Enterprise

NVIDIA AI Enterprise 和 Azure 机器学习共同打造了一个强大的组合，将 GPU 加速计算与基于云的全面机器学习平台进行融合，使企业能够更加高效地开发和部署 AI 模型。这协同增效使企业能够在利用云资源灵活性的同时，也充分发挥 NVIDIA GPU 和软件的性能优势。

如您想要开始使用 Azure 机器学习上的 NVIDIA AI Enterprise，请注册技术预览版(https://www.nvidia.com/en-us/data-center/solutions/mlops/?nvmid=reg-btn)，以访问 Azure 机器学习上的 NVIDIA AI Enterprise 预览版注册表中的所有预构建组件、环境和模型。

GTC 2024 将于 2024 年 3 月 18 至 21 日在美国加州圣何塞会议中心举行，线上大会也将同期开放。扫描下方海报二维码，立即注册 GTC 大会。

---

原文标题：在 Azure 机器学习上充分发挥 NVIDIA AI Enterprise 的强大功能

文章出处：【微信公众号：NVIDIA英伟达企业解决方案】欢迎添加关注！文章转载请注明出处。