通过集成MLOps平台和边缘解决方案打破数据孤岛

一种新的数据处理方法

人工智能和物联网的融合将数据重心从云转移到了网络边缘。在零售店、工厂、履行中心和其他分布式位置，数千个传感器正在收集数 PB 的数据，为创新人工智能用例的洞察提供动力。因为最有价值的见解是在边缘产生的，所以组织很快采用了新技术和流程，以更好地利用这一新的重心。

采用的主要技术之一是 边缘计算 ，即将应用程序的计算能力带到传感器收集信息的同一物理位置的过程。当这种计算方法用于在边缘为人工智能应用程序供电时，它被称为 edge AI 。

为了确保这些获取有价值见解的边缘位置不存在于孤立的筒仓中，各组织正越来越多地将其边缘计算解决方案集成到其现有工作流中，以开发、测试和优化应用程序。通过从开发过程到部署过程的无缝路径，团队能够同时对应用程序在生产环境中的运行方式有很强的可见性，同时还可以利用应用程序在边缘位置收集的数据和见解。

随着人工智能模型根据在边缘位置收集的新数据快速、不断地重新训练和迭代，这个过程只会变得更加重要。

机器学习操作和边缘人工智能

机器学习操作 （ MLOps ）是一个过程系统 简化了机器学习模型的开发、部署、监控和日常管理。它允许组织快速扩展应用程序的开发过程，并支持数据科学和 It 团队之间的快速迭代。 MLOps 平台将这一理念组织成一套工具，可在组织中跨职能使用，以加快创新速度。

集成 MLOps 平台和边缘计算解决方案可以为数据科学家和 IT 团队在生产环境中协作开发和部署应用程序提供无缝、快速的工作流。有了完整的工作流程，团队可以显著提高创新率，因为他们可以根据在边缘站点收集的见解和信息不断迭代、测试、部署和保留。对于努力利用新数据范式的组织来说，创新至关重要。

集成 Domino Data Lab 和 NVIDIA Fleet Command

Domino Data Lab Enterprise MLOps 平台和 NVIDIA Fleet Command 现在已集成 为数据科学家和 IT 团队提供了从模型开发到部署的一致、简化的流程。

Domino Data Lab 提供了一个企业 MLOps 平台，支持模型驱动的业务，以加快数据科学工作的开发和部署，同时增强协作和治理。它允许数据科学家在将人工智能模型部署到生产中之前进行实验、研究、测试和验证。

NVIDIA Fleet Command 是一个用于容器编排的托管平台，可在边缘优化系统和人工智能应用程序的供应和部署。它利用云的规模和弹性简化了分布式计算环境的管理，将每个站点变成了一个安全、智能的位置。

从开发到部署

与 NVIDIA Fleet Command 的集成为 Domino Data Lab 用户提供了一个将他们正在研究的模型部署到边缘位置的简单途径。该集成弥合了开发应用程序的数据科学家团队和部署应用程序的 IT 团队之间的差距，允许两个团队访问整个应用程序生命周期。

Thomas Robinson 说：“与 NVIDIA Fleet Command 的集成是难题中的最后一块，让数据科学家能够访问开发和部署人工智能应用程序的完整工作流。”， Domino Data Lab 战略合作伙伴关系和公司开发副总裁。“全面了解生产部署对于团队利用在边缘生成的数据和见解，最终更快地生成更好的应用程序至关重要。”

数据科学家可以使用 Domino 数据 MLOps 平台快速迭代他们正在研究的模型。通过相同的界面，用户可以将其新模型加载到 Fleet Command 上，使其可以部署到任何连接的位置。部署后，管理员可以远程访问应用程序以进行监视和故障排除，提供关键反馈，可用于模型的下一次迭代。

一位数据科学家正在为饮料制造厂开发质量检查应用程序，这就是在生产环境中使用这种集成的一个例子。该应用程序用于视觉捕捉罐头上的凹痕和缺陷，以防止它们接触到消费者。面临的挑战是，随着新设计的测试、季节性产品的发布以及基于事件的包装推向市场，罐头上的包装会频繁变化。应用程序需要能够快速、频繁地学习新设计，同时保持精确的成功水平。这需要高创新率，以跟上包装的频繁变化。为了实现这一点，数据科学家使用 Domino data Lab Enterprise MLOps 平台和 NVIDIA Fleet Command 创建从开发和迭代到部署和监控的快速无缝流程。通过这样做，他们可以轻松部署新模型，并随着产品的变化对服务的中断有限，从而提高创新速度。此外，模型监控确保数据科学家能够发现其模型的质量或预测能力方面的任何问题。

关于作者

Troy Estes 是 NVIDIA Edge 和企业计算解决方案的产品营销经理。在加入 Edge & Enterprise 业务部门之前，特洛伊曾在自主汽车业务部门和 NVIDIA 电网产品集团从事营销活动和支持产品 GTM 。

审核编辑：郭婷