英特尔® FPGA AI套件搭配OpenVINO™工具包-电子发烧友网

英特尔开发的 FPGA AI 套件旨在减少使用英特尔 CPU、英特尔 SoC FPGA 和英特尔 FPGA 创建功能强大的异构 AI 深度学习 (DL) 推理系统所需的工作量。

该套件支持 FPGA 设计人员、机器学习工程师和软件开发人员高效创建和优化 AI 推理平台，以达到性能、功耗和成本俱佳的目标。

英特尔 FPGA AI 套件中集成的实用程序加快了基于 FPGA 的 AI 推理引擎的开发速度。数据科学家和工程师可以从任何熟悉的行业框架（如 TensorFlow 和 PyTorch）开始训练和收敛推理模型，然后可以使用英特尔分发版 OpenVINO 工具包通过简化逻辑和降低内存占用率来优化推理模型的性能和功耗。

请注意，该优化是在 CPU 和 FPGA 的异构组合中执行的。随后，英特尔 FPGA AI 套件会进一步优化最终设计的 FPGA 部分。经优化的设计会使用英特尔 Quartus Prime 软件直接输入到强大且经过验证的 FPGA 开发流程中。

Stryker公司的研发团队在评估英特尔FPGA AI 套件后得出以下结论：

●英特尔 FPGA AI 套件和 OpenVINO 工具包非常易用。借助这些工具， Stryker 能够开发出更为优化的用于深度学习推理的 FPGA IP。该推理 IP 已使用英特尔QuartusPrime 软件成功集成到了英特尔 FPGA 中。与套件一起提供的设计示例也使团队能够快速评估不同图像源的不同算法。

●英特尔 FPGA AI 套件和 OpenVINO 工具包使数据科学家和 FPGA 工程师能够无缝协作，为医疗应用开发更好的深度学习推理模型。

您可以使用英特尔分发版 OpenVINO 工具包和英特尔 FPGA AI 套件开发推理系统，服务于从 DL 增强型嵌入式系统一直到在多个 FPGA 加速的服务器上运行的高级数据中心应用工作负载。

如果您想开发用于检测、分类、分割或相关任务的 FPGA 加速的 DL 推理模型，可以使用 OpenVINO 工具包和英特尔 FPGA AI 套件来实现；如果您想在使用 FPGA 编码或解码视频或者在处理计算机视觉图像的同时有效传输视频流，也可以使用英特尔分发版 OpenVINO 工具包和英特尔 FPGA AI 套件。可以说，FPGA 特别适合这种预处理和后处理。

如果您没有自己的推理模型供训练使用，但又迫不及待地想涉足深度学习领域，可以利用英特尔分发版 OpenVINO 工具包，因为工具包中有面向广泛使用的神经网络的预训练推理模型，您可以先从这些模型入手。

图1 显示的是基于这套工具的推理系统开发流程。