0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英特尔® FPGA AI套件搭配OpenVINO™工具包

英特尔FPGA 来源:英特尔FPGA 作者:英特尔FPGA 2022-08-11 11:53 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

英特尔开发的 FPGA AI 套件旨在减少使用英特尔 CPU、英特尔 SoC FPGA 和英特尔 FPGA 创建功能强大的异构 AI 深度学习 (DL) 推理系统所需的工作量。

该套件支持 FPGA 设计人员、机器学习工程师和软件开发人员高效创建和优化 AI 推理平台,以达到性能、功耗和成本俱佳的目标。

英特尔 FPGA AI 套件中集成的实用程序加快了基于 FPGA 的 AI 推理引擎的开发速度。数据科学家和工程师可以从任何熟悉的行业框架(如 TensorFlow 和 PyTorch)开始训练和收敛推理模型,然后可以使用英特尔 分发版 OpenVINO 工具包通过简化逻辑和降低内存占用率来优化推理模型的性能和功耗。

请注意,该优化是在 CPU 和 FPGA 的异构组合中执行的。随后,英特尔 FPGA AI 套件会进一步优化最终设计的 FPGA 部分。经优化的设计会使用英特尔 Quartus Prime 软件直接输入到强大且经过验证的 FPGA 开发流程中。

Stryker公司的研发团队在评估英特尔FPGA AI 套件后得出以下结论:

●英特尔 FPGA AI 套件和 OpenVINO 工具包非常易用。借助这些工具, Stryker 能够开发出更为优化的用于深度学习推理的 FPGA IP。该推理 IP 已使用英特尔QuartusPrime 软件成功集成到了英特尔 FPGA 中。与套件一起提供的设计示例也使团队能够快速评估不同图像源的不同算法

●英特尔 FPGA AI 套件和 OpenVINO 工具包使数据科学家和 FPGA 工程师能够无缝协作,为医疗应用开发更好的深度学习推理模型。

您可以使用英特尔 分发版 OpenVINO 工具包和英特尔 FPGA AI 套件开发推理系统,服务于从 DL 增强型嵌入式系统一直到在多个 FPGA 加速的服务器上运行的高级数据中心应用工作负载。

如果您想开发用于检测、分类、分割或相关任务的 FPGA 加速的 DL 推理模型,可以使用 OpenVINO 工具包和英特尔 FPGA AI 套件来实现;如果您想在使用 FPGA 编码或解码视频或者在处理计算机视觉图像的同时有效传输视频流,也可以使用英特尔 分发版 OpenVINO 工具包和英特尔 FPGA AI 套件。可以说,FPGA 特别适合这种预处理和后处理。

如果您没有自己的推理模型供训练使用,但又迫不及待地想涉足深度学习领域,可以利用英特尔 分发版 OpenVINO 工具包,因为工具包中有面向广泛使用的神经网络的预训练推理模型,您可以先从这些模型入手。

图1 显示的是基于这套工具的推理系统开发流程。

953d69ca-1928-11ed-ba43-dac502259ad0.png

图1 英特尔 FPGA AI 套件开发流程

英特尔 FPGA AI 套件目前可支持英特尔 Agilex FPGA、英特尔 Cyclone 10 GX FPGA 和英特尔 Arria 10 FPGA,并提供了未来支持更多英特尔 FPGA 的路线图。当然,这些工具背后还有很多英特尔的在线支持。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • FPGA
    +关注

    关注

    1655

    文章

    22287

    浏览量

    630309
  • 英特尔
    +关注

    关注

    61

    文章

    10275

    浏览量

    179311
  • 机器学习
    +关注

    关注

    66

    文章

    8541

    浏览量

    136236

原文标题:解析丨英特尔® FPGA AI 套件搭配 OpenVINO™ 工具包,助力创建异构推理系统

文章出处:【微信号:英特尔FPGA,微信公众号:英特尔FPGA】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    使用英特尔® NPU 插件C++运行应用程序时出现错误:“std::Runtime_error at memory location”怎么解决?

    使用OpenVINO工具套件版本 2024.4.0 构建C++应用程序 使用英特尔® NPU 插件运行了 C++ 应用程序 遇到的错误: Microsoft C++ excep
    发表于 06-25 08:01

    英特尔借助开放生态系统,加速边缘AI创新

    英特尔推出全新AI边缘系统、边缘AI套件和开放边缘平台软件,赋能合作伙伴将AI无缝融入现有基础设施  
    发表于 03-21 11:31 302次阅读
    <b class='flag-5'>英特尔</b>借助开放生态系统,加速边缘<b class='flag-5'>AI</b>创新

    请问如何在OpenVINO工具包中启用NPU设备?

    有关在 OpenVINO工具套件中启用 NPU 设备的咨询。
    发表于 03-06 07:25

    在Google Colab笔记本电脑上导入OpenVINO工具包2021中的 IEPlugin类出现报错,怎么解决?

    在 Google* Colab Notebook 上OpenVINO工具包 2021 中使用了 IEPlugin 。 遇到: ImportError: cannot import name \'IEPlugin\' from \'
    发表于 03-05 10:31

    构建开源OpenVINO工具包后,使用MYRIAD插件成功运行演示时报错怎么解决?

    构建开源OpenVINO工具包后,使用 MYRIAD 插件成功运行演示。 使用 CPU 插件运行演示时遇到错误: Cannot load library \'libarmPlugin.so
    发表于 03-05 09:57

    在Windows中安装OpenVINO™后,无法找到OpenCL编译器二进制文件是怎么回事?

    已在 Windows* 和开源OpenVINO工具套件 Windows* 中安装 OpenVINO英特尔 Distribution。 如
    发表于 03-05 08:57

    为什么无法检测到OpenVINO工具套件中的英特尔®集成图形处理单元?

    在 Ubuntu* Desktop 22.04 上安装了 英特尔® Graphics Driver 版本并OpenVINO™ 2023.1。 运行 python 代码: python -c
    发表于 03-05 08:36

    请问OpenVINO工具套件英特尔®Distribution是否与Windows® 10物联网企业版兼容?

    无法在基于 Windows® 10 物联网企业版的目标系统上使用 英特尔® Distribution OpenVINO™ 2021* 版本推断模型。
    发表于 03-05 08:32

    安装OpenVINO™适用于Raspberry Pi64位操作系统的工具套件2022.3.1,配置英特尔®NCS2时出错怎么解决?

    安装OpenVINO™适用于 Raspberry Pi* 64 位操作系统的工具套件 2022.3.1。 配置英特尔® NCS2时出错: CMake Error at CMakeLi
    发表于 03-05 07:27

    英特尔®独立显卡与OpenVINO工具套件结合使用时,无法运行推理怎么解决?

    使用英特尔®独立显卡与OpenVINO工具套件时无法运行推理
    发表于 03-05 06:56

    安装OpenVINO工具包稳定扩散后报错,怎么解决?

    已安装OpenVINO工具包稳定扩散并收到错误消息: \"BackendCompilerFailed: openvino_fx raised RuntimeError
    发表于 03-05 06:56

    如何下载 OpenVINO工具套件

    需要下载用于开发工作的 OpenVINO工具套件
    发表于 03-05 06:49

    为什么Caffe模型可以直接与OpenVINO工具套件推断引擎API一起使用,而无法转换为中间表示 (IR)?

    推断 Caffe 模型直接基于 英特尔® 神经电脑棒 2 (英特尔® NCS2)。 无法确定为什么 Caffe 模型可以直接与OpenVINO工具
    发表于 03-05 06:31

    英特尔OpenVINO 2025.0正式发布

    生成式AI(GenAI)在模型质量与应用范围上持续爆发式增长,DeepSeek 等顶尖模型已引发行业热议,这种势头预计将在 2025年延续。本次更新聚焦性能提升、更多生成式AI 模型的支持,并针对英特尔神经处理单元(NPU)推出
    的头像 发表于 02-21 10:20 1670次阅读
    <b class='flag-5'>英特尔</b><b class='flag-5'>OpenVINO</b> 2025.0正式发布

    C#中使用OpenVINO™:轻松集成AI模型!

    与分析三大领域中,如何快速将AI模型集成到应用程序中,实现AI赋能和应用增值?最容易的方式是:在C#中,使用OpenVINO工具套件集成
    的头像 发表于 02-07 14:05 1648次阅读
    C#中使用<b class='flag-5'>OpenVINO</b>™:轻松集成<b class='flag-5'>AI</b>模型!