0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英特尔® FPGA AI套件搭配OpenVINO™工具包

英特尔FPGA 来源:英特尔FPGA 作者:英特尔FPGA 2022-08-11 11:53 次阅读

英特尔开发的 FPGA AI 套件旨在减少使用英特尔 CPU、英特尔 SoC FPGA 和英特尔 FPGA 创建功能强大的异构 AI 深度学习 (DL) 推理系统所需的工作量。

该套件支持 FPGA 设计人员、机器学习工程师和软件开发人员高效创建和优化 AI 推理平台,以达到性能、功耗和成本俱佳的目标。

英特尔 FPGA AI 套件中集成的实用程序加快了基于 FPGA 的 AI 推理引擎的开发速度。数据科学家和工程师可以从任何熟悉的行业框架(如 TensorFlow 和 PyTorch)开始训练和收敛推理模型,然后可以使用英特尔 分发版 OpenVINO 工具包通过简化逻辑和降低内存占用率来优化推理模型的性能和功耗。

请注意,该优化是在 CPU 和 FPGA 的异构组合中执行的。随后,英特尔 FPGA AI 套件会进一步优化最终设计的 FPGA 部分。经优化的设计会使用英特尔 Quartus Prime 软件直接输入到强大且经过验证的 FPGA 开发流程中。

Stryker公司的研发团队在评估英特尔FPGA AI 套件后得出以下结论:

●英特尔 FPGA AI 套件和 OpenVINO 工具包非常易用。借助这些工具, Stryker 能够开发出更为优化的用于深度学习推理的 FPGA IP。该推理 IP 已使用英特尔QuartusPrime 软件成功集成到了英特尔 FPGA 中。与套件一起提供的设计示例也使团队能够快速评估不同图像源的不同算法

●英特尔 FPGA AI 套件和 OpenVINO 工具包使数据科学家和 FPGA 工程师能够无缝协作,为医疗应用开发更好的深度学习推理模型。

您可以使用英特尔 分发版 OpenVINO 工具包和英特尔 FPGA AI 套件开发推理系统,服务于从 DL 增强型嵌入式系统一直到在多个 FPGA 加速的服务器上运行的高级数据中心应用工作负载。

如果您想开发用于检测、分类、分割或相关任务的 FPGA 加速的 DL 推理模型,可以使用 OpenVINO 工具包和英特尔 FPGA AI 套件来实现;如果您想在使用 FPGA 编码或解码视频或者在处理计算机视觉图像的同时有效传输视频流,也可以使用英特尔 分发版 OpenVINO 工具包和英特尔 FPGA AI 套件。可以说,FPGA 特别适合这种预处理和后处理。

如果您没有自己的推理模型供训练使用,但又迫不及待地想涉足深度学习领域,可以利用英特尔 分发版 OpenVINO 工具包,因为工具包中有面向广泛使用的神经网络的预训练推理模型,您可以先从这些模型入手。

图1 显示的是基于这套工具的推理系统开发流程。

953d69ca-1928-11ed-ba43-dac502259ad0.png

图1 英特尔 FPGA AI 套件开发流程

英特尔 FPGA AI 套件目前可支持英特尔 Agilex FPGA、英特尔 Cyclone 10 GX FPGA 和英特尔 Arria 10 FPGA,并提供了未来支持更多英特尔 FPGA 的路线图。当然,这些工具背后还有很多英特尔的在线支持。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • FPGA
    +关注

    关注

    1599

    文章

    21277

    浏览量

    592837
  • 英特尔
    +关注

    关注

    60

    文章

    9395

    浏览量

    168651
  • 机器学习
    +关注

    关注

    66

    文章

    8094

    浏览量

    130514

原文标题:解析丨英特尔® FPGA AI 套件搭配 OpenVINO™ 工具包,助力创建异构推理系统

文章出处:【微信号:英特尔FPGA,微信公众号:英特尔FPGA】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    为何高端FPGA都非常重视软件

    和实际工作负载调配变得更加简单和快捷。 英特尔通过OpenVINO工具包英特尔发行版向AI开发人员的One API采用了类似的方法(实
    发表于 03-23 16:48

    基于英特尔哪吒开发者套件平台来快速部署OpenVINO Java实战

    OpenVINO 工具套件基于OneAPI开发,可以加快高性能计算机视觉和深度学习应用开发速度的工具套件,适用于从边缘到云的各种
    的头像 发表于 03-21 18:24 801次阅读
    基于<b class='flag-5'>英特尔</b>哪吒开发者<b class='flag-5'>套件</b>平台来快速部署<b class='flag-5'>OpenVINO</b> Java实战

    #高通 #英特尔 #Elite 高通X Elite芯片或终结苹果、英特尔的芯片王朝

    高通英特尔苹果
    深圳市浮思特科技有限公司
    发布于 :2023年10月27日 16:46:07

    基于英特尔开发套件AI字幕生成器设计

    量化的 Base Whisper 模型通过 OpenVINO 工具套件进行 AI 推理部署。由于声音处理应用的广泛性,开发者可以基于本项目继续进行
    的头像 发表于 09-27 16:59 510次阅读
    基于<b class='flag-5'>英特尔</b>开发<b class='flag-5'>套件</b>的<b class='flag-5'>AI</b>字幕生成器设计

    基于OpenVINO英特尔开发套件上实现眼部追踪

    本文将以训练一个眼部追踪 AI 小模型为背景,介绍从 Pytorch 自定义网络模型,到使用 OpenVINO NNCF 量化工具优化模型,并部署到英特尔开发
    的头像 发表于 09-18 10:11 428次阅读

    英特尔Agilex FPGA的优势和特性

    英特尔推出全新英特尔 Agilex 7 FPGA,以支持在英特尔 DevCloud 中运行 oneAPI 基础工具
    的头像 发表于 09-08 09:09 646次阅读

    如何在OpenVINO trade工具包中推断两个图像?

    无法在OpenVINO工具包中对两个输入图像运行推理。
    发表于 08-15 08:24

    OpenVINO工具套件是否可以商业化使用?

    参阅 英特尔® OpenVINO™分销许可第 2.1 节(2021 年 5 月版本)。 无法了解英特尔® 发行版 OpenVINO工具
    发表于 08-15 08:19

    安装OpenVINO工具套件英特尔Distribution时出现错误的原因?

    安装OpenVINO工具套件英特尔 Distribution时,出现错误: Python 3.10.0.ECHO is off. Unsupported Python version
    发表于 08-15 08:14

    如何在OpenVINO工具包中使用带推理引擎的blob?

    无法确定如何在OpenVINO工具包中使用带推理引擎的 blob。
    发表于 08-15 07:17

    从Docker映像为Raspbian OpenVINO工具套件的安装过程

    /openvino_fd_myriad.py 注意您需要将上述模板OpenVINO™变量中的 OpenVINO™ DOWNLOAD_LINK 工具
    发表于 08-15 06:59

    如何使用交叉编译方法为Raspbian 32位操作系统构建OpenVINO工具套件的开源分发

    章是使用 OpenVINO工具套件的开源发行版 2022.1 版本进行验证的。 OpenVINO工具
    发表于 08-15 06:28

    使用OpenVINO trade 2021版运行Face_recognition_demo时报错怎么解决?

    importing ie_api 推断 face_recognition_demo 与 OpenVINO™ 2021 版本和 英特尔® 神经电脑棒 2 (英特尔® NCS2) 插件丢点错
    发表于 08-15 06:20

    利用OpenVINO工具包检测汽车品牌

    地检测品牌、车标和形状。 OpenVINO TM的Intel&Distribution工具包是一个全面的工具包,用于快速开发模拟人类视觉的应用程序和解决方案。该工具包以细胞神经
    发表于 08-04 07:36

    英特尔通过AI参考套件加速AI发展

    优化的AI参考套件 旨在 助力开发者和数据科学家跑出创新“加速度” 最新动态 得益于英特尔与埃森哲的长期合作,英特尔现推出了一套共计34个的开源AI
    的头像 发表于 07-28 19:45 570次阅读
    <b class='flag-5'>英特尔</b>通过<b class='flag-5'>AI</b>参考<b class='flag-5'>套件</b>加速<b class='flag-5'>AI</b>发展