Vitis AI：从边缘到云的最佳人工智能推断

Vitis AI：从边缘到云的最佳人工智能推断

Vitis AI 开发环境是 Xilinx 的开发平台，适用于在 Xilinx 硬件平台（包括边缘器件和 Alveo 卡）上进行人工智能推断。它由优化的 IP、工具、库、模型和示例设计组成。Vitis AI 以高效易用为设计理念，可在 Xilinx FPGA 和 ACAP 上充分发挥人工智能加速的潜力。

全新 1.2 版本新增了以下功能：

Vitis AI 量化器和 DNNDK 运行时开源

AI Model Zoo 中添加了 14 个新参考模型（Pytorch, Caffe, Tensorflow）

Vitis AI 量化器支持优化的模型（剪枝）

更新了 DPU 命名规则，以在所有配置中保持一致

推出面向边缘和云的 Vitis AI Profiler

ONNXRuntime 和 TVM 支持 Vitis AI

新增了对 Alveo U50/U50LV 和 U280 的支持

Alveo U50/U50LV DPU DPUCAHX8H 微架构改进

升级 DPU TRD，以支持 Vitis 2020.1 和 Vivado 2020.1

Vitis AI 支持 Pytorch CNN 通用访问（测试版）

Vitis AI 平台的介绍

◆◆AI 优化器◆◆

有了世界领先的模型压缩技术，我们可以在对精度影响极小的情况下，将模型的复杂性降低 5 至 50 倍。深度压缩可将您的 AI 推断性能提升到一个新的层次。

◆◆AI 量化器◆◆

通过将 32 位浮点权值和激活量转换为 INT8 这样的定点，AI 量化器可在不影响预测精度的情况下，降低计算复杂度。定点网络模型需要的内存带宽更少，因此比浮点网络模型速度更快，电源效率更高。

◆◆AI 编译器◆◆

将 AI 模型映射至高效指令集及数据流。还可执行高级优化任务，如层融合和指令排程等，并可尽量重复使用片上内存。

◆◆AI 配置器◆◆

性能分析器有助于程序员深入分析 AI 推断实现方案的效率和利用率。

◆◆AI 库◆◆

该运行时提供一系列轻量级 C++ 及 Python API，其可实现便捷的应用开发。此外，它还提供高效的任务调度、内存管理和中断处理。