英特尔开发的 FPGA AI 套件旨在减少使用英特尔 CPU、英特尔 SoC FPGA 和英特尔 FPGA 创建功能强大的异构 AI 深度学习 (DL) 推理系统所需的工作量。
该套件支持 FPGA 设计人员、机器学习工程师和软件开发人员高效创建和优化 AI 推理平台,以达到性能、功耗和成本俱佳的目标。
英特尔 FPGA AI 套件中集成的实用程序加快了基于 FPGA 的 AI 推理引擎的开发速度。数据科学家和工程师可以从任何熟悉的行业框架(如 TensorFlow 和 PyTorch)开始训练和收敛推理模型,然后可以使用英特尔 分发版 OpenVINO 工具包通过简化逻辑和降低内存占用率来优化推理模型的性能和功耗。
请注意,该优化是在 CPU 和 FPGA 的异构组合中执行的。随后,英特尔 FPGA AI 套件会进一步优化最终设计的 FPGA 部分。经优化的设计会使用英特尔 Quartus Prime 软件直接输入到强大且经过验证的 FPGA 开发流程中。
Stryker公司的研发团队在评估英特尔FPGA AI 套件后得出以下结论:
●英特尔 FPGA AI 套件和 OpenVINO 工具包非常易用。借助这些工具, Stryker 能够开发出更为优化的用于深度学习推理的 FPGA IP。该推理 IP 已使用英特尔QuartusPrime 软件成功集成到了英特尔 FPGA 中。与套件一起提供的设计示例也使团队能够快速评估不同图像源的不同算法。
●英特尔 FPGA AI 套件和 OpenVINO 工具包使数据科学家和 FPGA 工程师能够无缝协作,为医疗应用开发更好的深度学习推理模型。
您可以使用英特尔 分发版 OpenVINO 工具包和英特尔 FPGA AI 套件开发推理系统,服务于从 DL 增强型嵌入式系统一直到在多个 FPGA 加速的服务器上运行的高级数据中心应用工作负载。
如果您想开发用于检测、分类、分割或相关任务的 FPGA 加速的 DL 推理模型,可以使用 OpenVINO 工具包和英特尔 FPGA AI 套件来实现;如果您想在使用 FPGA 编码或解码视频或者在处理计算机视觉图像的同时有效传输视频流,也可以使用英特尔 分发版 OpenVINO 工具包和英特尔 FPGA AI 套件。可以说,FPGA 特别适合这种预处理和后处理。
如果您没有自己的推理模型供训练使用,但又迫不及待地想涉足深度学习领域,可以利用英特尔 分发版 OpenVINO 工具包,因为工具包中有面向广泛使用的神经网络的预训练推理模型,您可以先从这些模型入手。
图1 显示的是基于这套工具的推理系统开发流程。

图1 英特尔 FPGA AI 套件开发流程
英特尔 FPGA AI 套件目前可支持英特尔 Agilex FPGA、英特尔 Cyclone 10 GX FPGA 和英特尔 Arria 10 FPGA,并提供了未来支持更多英特尔 FPGA 的路线图。当然,这些工具背后还有很多英特尔的在线支持。
审核编辑 :李倩
-
FPGA
+关注
关注
1655文章
22287浏览量
630309 -
英特尔
+关注
关注
61文章
10275浏览量
179311 -
机器学习
+关注
关注
66文章
8541浏览量
136236
原文标题:解析丨英特尔® FPGA AI 套件搭配 OpenVINO™ 工具包,助力创建异构推理系统
文章出处:【微信号:英特尔FPGA,微信公众号:英特尔FPGA】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
使用英特尔® NPU 插件C++运行应用程序时出现错误:“std::Runtime_error at memory location”怎么解决?
在Google Colab笔记本电脑上导入OpenVINO™工具包2021中的 IEPlugin类出现报错,怎么解决?
构建开源OpenVINO™工具包后,使用MYRIAD插件成功运行演示时报错怎么解决?
在Windows中安装OpenVINO™后,无法找到OpenCL编译器二进制文件是怎么回事?
为什么无法检测到OpenVINO™工具套件中的英特尔®集成图形处理单元?
请问OpenVINO™工具套件英特尔®Distribution是否与Windows® 10物联网企业版兼容?
安装OpenVINO™适用于Raspberry Pi64位操作系统的工具套件2022.3.1,配置英特尔®NCS2时出错怎么解决?
安装OpenVINO™工具包稳定扩散后报错,怎么解决?
为什么Caffe模型可以直接与OpenVINO™工具套件推断引擎API一起使用,而无法转换为中间表示 (IR)?
英特尔OpenVINO 2025.0正式发布

英特尔® FPGA AI套件搭配OpenVINO™工具包
评论