使用Fleet Command完成部署和管理AI应用程序

随着在边缘部署人工智能应用程序的增长， IT 组织正在寻找部署和管理其边缘计算系统和软件的最佳方式。

NVIDIA Fleet Command 通过将 NVIDIA-Certified Systems 转化为安全边缘设备，并在几分钟内将其连接到云，为任何规模的企业带来安全边缘 AI 。在云中，你可以从 NGC Catalog 或你的 NGC 私有注册中心部署和管理应用程序，通过无线方式更新系统软件，并通过浏览器和互联网连接远程管理系统。

为了帮助组织测试 Fleet Command 的好处，您可以使用 NVIDIA LaunchPad 测试产品。通过精心策划的实验室， LaunchPad 让你可以使用专用硬件和 Fleet Command 软件，这样你就可以在边缘地带完成部署和管理人工智能应用程序的整个过程。

在这篇文章中，我将带你参观 LaunchPad 上的 Fleet Command 试用版，包括申请者的详细信息、完成策划的实验室体验需要多长时间，以及接下来的步骤。

谁应该试试舰队司令部？

Fleet Command 是为负责管理多个边缘位置的人工智能应用程序的 IT 和 OT 专业人员设计的。该产品的简单性允许任何技能水平的专业人士轻松使用。

策展实验室将完成演示应用程序的部署。对于即将进行 edge 项目的用户，演示应用程序可用于测试 Fleet Command 的功能，但仍需在现场进行全面测试。

Fleet Command 实验室体验旨在部署和管理边缘的人工智能应用程序。 NVIDIA LaunchPad 提供了其他实验室，用于使用 NVIDIA Base Command 管理训练环境， NVIDIA 人工智能企业 用于从企业数据中心优化人工智能的开发和部署。

Fleet Command 策划的实验室包括什么？

在本次试验中，您充当车队指挥系统管理员，部署计算机视觉应用程序，用于在交叉口清点车辆。整个审判大约需要一个小时。

在 NGC 中访问舰队司令部

Fleet Command 可以通过 NGC 从任何地方访问，这是一个 GPU 优化的人工智能软件中心，允许管理员远程管理边缘位置、系统和应用程序。

管理员会自动将 Fleet Command 添加到 NGC 控制台。

创建边位置

Fleet Command 中的位置代表安装物理系统的真实位置。在实验室中，您可以创建一个边缘位置，但客户可以在生产中管理数千个位置。

要添加新位置，请选择 Add Location 并填写详细信息。选择可用的最新版本。

图 1 。添加一个由NVIDIA 车队司令部管理的位置

添加一个边缘系统

接下来，向位置添加一个系统，它代表边缘的物理系统。完成此步骤将生成一个代码，您可以使用该代码使用 Fleet Command 操作堆栈在现场安全地配置服务器。然后选择刚刚创建的位置并选择 Add System 。

图 2 。将边缘系统添加到位置

添加系统名称和说明以完成该过程。

将系统添加到某个位置后，您将获得一个生成的激活码，用于将舰队命令与现场的物理系统配对。

图 3 。生成激活码，将 Fleet Command 中的系统连接到边缘服务器

将 Fleet Command 连接到 LaunchPad 服务器

NVIDIA LaunchPad 提供了一个系统控制台，用于访问与试用相关的服务器。按照提示完成安装。初始设置后，系统会提示输入在 Fleet Command 中创建系统时生成的激活码。

图 4 。将边缘服务器与 Fleet Command配对

输入激活码后，系统将完成与车队命令的配对。 Fleet Command 用户界面中的复选框显示服务器正在运行并准备进行远程管理。

图 5 。边缘服务器的完整配对，现在可以通过 Fleet Command 进行控制

部署人工智能应用程序

现在，本地安装程序已将系统与 Fleet Command 配对，您可以部署 AI 应用程序。应用程序可以托管在 NGC 私有注册表上，也可以直接托管在 NGC 目录上。

图 6 。将来自 NGC 的应用程序添加到该位置

人工智能应用程序使用 Helm 图表进行部署， Helm 图表用于定义、安装和升级 Kubernetes 应用程序。选择 Add Application 并在提示中输入信息。

现在应用程序已在 Fleet Command 准备就绪，可以部署到一个或多个系统上。通过选择创建的位置和应用程序，创建部署，确保选中启用应用程序访问复选框。

图 7 。创建部署

现在，应用程序已部署在服务器上，您可以在试用应用程序中查看在示例视频数据上运行的应用程序。

图 8 。用于计算汽车数量的计算机视觉应用程序正在生产中

就这样。我现在已经向您介绍了连接到边缘物理系统、创建部署以及将 AI 应用程序推送到边缘服务器的端到端过程。在不到一个小时的时间里，试验从断开连接的远程系统发展到完全管理、安全的远程边缘环境。

下一步

Fleet Command 是一个强大的工具，可以在不影响安全性、灵活性或规模的情况下简化边缘计算基础设施的管理。

关于作者：

Amanda Saunders 在 NVIDIA 负责 Edge 和企业计算解决方案集团的 Edge AI 产品营销。她为医院、商店、仓库、工厂等带来了智能的边缘计算解决方案。除了从事 edge 解决方案之外， Amanda 还在 NVIDIA 担任销售和营销角色，与 AI 、数据科学、虚拟 GPU 和许多不同行业合作。

审核编辑：郭婷