用于深度学习推理的高性能工具包-电子发烧友网

近年来，深度神经网络在将计算机视觉算法的准确性提升到一个新的水平方面取得了重大进展。OpenVINO 工具包就是这样一个示例，它可以在提供高性能的同时优化 DNN 模型。

英特尔其 OpenVINO 工具套件的最新版本（2022.1），可为任何地方的开发人员提供更简单的部署。OpenVINO 是“Open Visual Inference and Neural Network Optimization”的缩写，是一个跨平台的深度学习工具包，可提供额外的深度学习模型、设备可移植性和更高的推理性能，代码更改更少。它专注于通过一次写入、随处部署的方法来增强深度神经网络推理，从而优化应用程序的开发生命周期。

该工具包有两个版本，一个开源 OpenVINO 工具包和一个英特尔 Distribution of OpenVINO 工具包。OpenVINO 工具包主要用于开发各种问题的快速解决方案，如模拟人类视觉、语音识别、自然语言处理、推荐系统等。它为开发人员在其 AI 界面上工作以及采用和维护提供了一种更简单的替代方案他们的代码。OpenVINO 建立在最新一代人工神经网络（ANN）的基础上，例如卷积神经网络（CNN）以及循环和基于注意力的网络。

在英特尔硬件中，OpenVINO 包含计算机视觉和非计算机视觉工作负载。通过其众多功能，它确保了最大的性能并加快了应用程序的开发。它提供了来自自己的 Open Model Zoo 的预训练模型，这些模型提供了优化的模型。OpenVINO 提供了模型优化器 API，可以转换您提供的模型并为推理做好准备。推理引擎允许用户通过编译优化的网络和管理特定设备上的推理操作来调整性能。而且由于该工具包与大多数框架兼容，因此干扰最小，性能最高。

英特尔的 OpenVINO 工具套件分发版旨在促进和简化高性能计算机视觉和深度学习推理应用程序在广泛使用的英特尔平台上的开发、创建和部署。OpenVINO 的应用范围从自动化和安全到农业、医疗保健等等。

版本 2022.1 的功能

此版本为之前的 2021.3 版本提供了错误修复和功能更改。

更新，更清洁的 API

这个新版本使维护开发人员的代码变得更加容易。它可以与最小化转换的 TensorFlow 约定集成。此版本减少了模型优化器中的 API 参数，以最大限度地降低复杂性。另一方面，在开放式神经网络交换（ONNX*）模型上的模型转换性能得到了显着提升。

更广泛的模型支持

用户可以在包括自然语言处理（NLP）、双精度和计算机视觉在内的各种深度学习模型中轻松部署应用程序。以 NLP 为重点，以及额外类别的异常检测，预训练模型可用于工业检查、降噪、问答、翻译和文本到语音。

便携性和性能

此版本承诺通过跨 CPU、GPU 等的自动设备发现、负载平衡和动态推理并行性来提升性能。

OpenVINO 工具包附加组件

计算机视觉注释工具

数据集管理框架