0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NPU时代来临,瑞芯微AI芯片与Paddle Lite完成适配

牵手一起梦 来源:中华网 作者:一鸣 2020-06-01 17:12 次阅读

5月13日,百度飞桨开源深度学习平台与瑞芯微Rockchip旗下AI芯片RK1808、RK1806正式完成适配,充分兼容飞桨轻量化推理引擎Paddle Lite。此次百度与瑞芯微的合作,旨在为AI行业赋能更多应用场景,加速AI产品落地进程。

在AI时代,深度学习框架和操作系统类似,起着承上启下的作用,连接芯片与应用。拥有强大算力的AI芯片加持,AI技术将得到更广泛普及。

NPU时代来临软硬结合性能优化

飞桨产业级深度学习开源平台以百度多年的深度学习技术研究和产业应用为基础,集深度学习核心训练和预测框架、基础模型库、端到端开发套件、工具组件和服务平台于一体,2016年正式开源,是中国极具影响力的全面开源开放、技术领先、功能完备的产业级深度学习平台。Paddle Lite是飞桨推出的一套功能完善、易用性强且性能卓越的轻量化推理引擎,支持多种硬件、多种平台,具备轻量化部署、高性能实现等重要特性。

NPU时代来临,瑞芯微AI芯片与Paddle Lite完成适配

瑞芯微RK18xx系列芯片适配Paddle Lite

瑞芯微AI芯片RK1808及RK1806,内置独立NPU神经计算单元,INT8 算力高达3.0TOPs;采用22nm FD-SOI工艺,相同性能下的功耗相比主流28nm工艺产品降低约30%,在算力、性能、功耗等指标上均有优异的表现。经实测,瑞芯微AI芯片在Paddle Lite中运行MobileNet V1耗时仅为6.5 ms,帧率高达153.8 FPS,二者充分兼容并高效稳定运行。

如下图所示的实测結果可以看出,与手机等移动端常用的国内外主流CPU相比,RK18系列NPU在MobileNET_v1的耗时表现出色,由此证明在AI相关领域,如图像分类、目标检测、语音交互上,专用的AI芯片将带来更出色的效果。

NPU时代来临,瑞芯微AI芯片与Paddle Lite完成适配

瑞芯微RK18xx系列芯片在 MobileNETV1上对比主流CPU 性能卓越

通过适配飞桨开源深度学习平台,瑞芯微芯片将能更好地赋能国内用户的业务需求,为端侧AI提供强劲算力;二者的融合,将充分发挥软硬件结合的优势,加快开发部署速度,推动更多AI应用的落地。

国产芯合作升级实操教程详解

在飞桨上,瑞芯微AI芯片的详细操作方法可参考Paddle Lite文档,内容涵盖支持的芯片、设备列表、Paddle模型与算子及参考示例演示等等。

测试设备

NPU时代来临,瑞芯微AI芯片与Paddle Lite完成适配

此外,除RK1808及RK1806芯片解决方案外,瑞芯微旗下搭载NPU的AI系列芯片也将陆续升级适配百度飞桨,进一步深化双方合作关系,携手助力我国自主可控AI生态的构建。

责任编辑:pj

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    447

    文章

    47788

    浏览量

    409104
  • AI
    AI
    +关注

    关注

    87

    文章

    26443

    浏览量

    264042
  • 深度学习
    +关注

    关注

    73

    文章

    5237

    浏览量

    119906
收藏 人收藏

    评论

    相关推荐

    开发者手机 AI - 目标识别 demo

    Lite的API接口实现主要功能; Mindspore Lite为Openharmony AI推理框架,为上层应用提供统一的AI推理接口,可以完成
    发表于 04-11 16:14

    采用芯原NPU IP的AI芯片已在全球出货超过1亿颗

    芯原股份发布重要消息,其集成了芯原神经网络处理器(NPU)IP的人工智能(AI)类芯片,已在全球范围内出货超过1亿颗。这一里程碑式的成就标志着芯原在AI领域的持续领先和创新。
    的头像 发表于 03-06 10:54 424次阅读

    RK2606USB驱动软件?

    RK2606USB驱动软件求分享! 谢谢大师们!
    发表于 12-21 10:46

    关于 RK3588的试用体验

    架构,这些变化已经不知道用什么文字来形容。一天不学习就感到难受的我,最近在学习和了解Rockchip的嵌入式AI高性能处理器。 刚好就在上周,我收到飞凌嵌入式的邀请,申请试用
    发表于 12-12 16:46

    诠视科技国产MR终端搭配3588芯片,实现自主追踪定位手柄

    芯片终端
    诠视科技
    发布于 :2023年11月17日 15:55:13

    诠视科技国产MR终端搭载3588,SLAM技术实现25个自然点手势交互

    芯片终端
    诠视科技
    发布于 :2023年11月17日 15:48:21

    诠视科技国产化MR终端搭载3588芯片,对标Hololens,可以实现虚实交互

    芯片终端
    诠视科技
    发布于 :2023年11月17日 15:43:22

    诠视科技最新国产化MR终端搭载3588,可以实现远程标注指导。

    芯片终端
    诠视科技
    发布于 :2023年11月17日 15:40:31

    npu芯片有什么用

    npu芯片有什么用 随着人工智能的发展,NPU芯片作为一款专门用于加速人工智能计算的芯片,正在逐渐成为业界的焦点。
    的头像 发表于 08-27 17:08 4360次阅读

    npu是什么意思?npu芯片是什么意思?npu到底有什么用?

    。正如CPU和GPU一样,NPU也是一种专门的处理器芯片,但不同于前二者,NPU被用于深度学习领域。NPU在深度学习领域的应用可以提高运算速度,降低功耗,加速推理流程等。
    的头像 发表于 08-27 17:03 2.6w次阅读

    飞凌嵌入式国产平台大盘点之系列

    分类带大家一起盘点。 本篇文章,为大家介绍的是系列的核心板。 微电子 × 飞凌嵌入式 2020年至今,飞凌嵌入式已基于
    发表于 08-05 11:12

    在i.MX93 EVKCM上的EthosU NPU上推断AI模型时遇到错误怎么解决?

    尝试在 i.MX93 EVKCM 上的 EthosU NPU 上推断 AI 模型时遇到错误。 使用的 BSP:Linux imx93evk 6.1.1+g29549c7073bf 首先,我从
    发表于 06-05 11:36

    RK3568开发板安防后端方案赋能NVR/XVR全面硬件升级

    ,后端设备NVR/XVR的应用面逐渐扩大,对其性能要求不断提升。RK3568全新安防后端NVR/XVR芯片方案,目前,以“NVR+IPC+监控平台”为核心的解决方案已经成为安防应
    发表于 05-06 10:52