Nsight DL Designer用于高效深度学习模型设计和开发

NVIDIA 宣布了 Nsight DL Designer –第一个支持应用内推理的深度神经网络高效设计的同类集成开发环境。

本 SDK 旨在通过在过程的每个阶段提供有效的支持，简化为应用内推理设计深度神经网络模型的经常迭代过程。

Nsight DL Designer 是一种基于 GUI 的模型设计工具，具有基于 GPU 指标的集成评测功能。它提供了一种将模型导入 PyTorch 进行培训的便捷方法。可视化分析模式允许开发人员以交互方式实时深入推理过程，并提供灵活的选项导出最终的推理部署模式。

端到端 Nsight DL Designer 工作流

开发人员首先在 Nsight DL Designer 中设计他们的深层神经网络模型，使用 NVIDIA 实现的一组内置高级神经网络层作为 神经推理机。创建模型后，可以进行性能分析，以了解模型是否满足分配的时间预算。分析可以提前完成，甚至在您花时间培训网络之前。

对于培训阶段， Nsight DL Designer 提供了各种 Python 脚本，可以自动将 Nsight DL Designer 模型转换为 PyTorch 模型，该模型可以轻松添加到培训循环中。训练完成后，您可以将学习到的权重数据从模型保存到 NumPy 文件中。您可以返回 DL Designer ，加载权重文件并进入分析模式以检查推断结果。分析模式还允许开发人员深入推理过程，直观地检查每个推理步骤中发生的事情。此反馈可能会指导开发人员优化其网络模型，以提高质量和性能。

一旦您对模型的质量和性能都感到满意，就到了部署的时候了。 Nsight DL Designer 提供了几种支持部署模型的方法。一种方法是将模型导出为 ONNX 文件。使用 ONNX 文件，您可以在任何运行 ONNX 的平台上部署您的模型

此版本的主要功能包括：

基于 GUI 的神经推理机模型设计

使用 GPU 度量的推理性能评测

与培训框架的接口– PyTorch

推理过程的交互式可视化分析

用于部署的自动化模型导出和代码生成

关于作者

Chaitrali Joshi 是 NVIDIA 的产品营销经理，专注于电信 5G 系统的设计和开发。她对网络空间有着深入的了解，是移动通信系统和云栈方面的专家。在英特尔之前，她是一名领导，向开发人员宣传电信技术和边缘计算技术。她获得了加利福尼亚大学计算机科学硕士学位，戴维斯专注于软件定义的网络和多址边缘计算（ MEC ）。

审核编辑：郭婷