0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

工程师说 | 引入DRP-AI TVM以简化AI模型的实施

瑞萨电子 来源:未知 2023-05-11 20:16 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

您在嵌入式设备中实施人工智能模型时是否遇到困难?本篇文章将为您介绍DRP-AI TVM,它简化了AI模型的实现。

近年来,人工智能已经在监控摄像头、交通监控系统、机器人无人机等嵌入式设备中得到实施。与云环境不同,嵌入式设备在实现人工智能方面有很多困难,比如要考虑HW性能、成本和功率限制。通过使用RZ/V系列AI-MPU和瑞萨的低功耗AI加速器DRP-AI,可以解决大部分HW实施的挑战。

当客户在我们的AI-MPU上实现AI模型时,他们使用DRP-AI翻译器,将AI模型转换为DRP-AI可执行文件,但一些客户指出,这很难实现,有两个主要原因:

01

DRP-AI翻译器支持的唯一AI模型格式是ONNX。

02

如果模型包含DRP-AI翻译器不支持的运算符,则不可能进行转换。

到目前为止,瑞萨一直要求客户自行处理此类情况,这对一些客户来说是一种负担。我们相信,解决这些问题将提高客户的便利性,并发布了新的DRP-AI TVM。

DRP-AI TVM是一个开源的ML编译器Apache TVM,支持DRP-AI。自动将DRP-AI翻译器不支持的操作者分配给CPU,使其更容易支持更多的AI模型。它还可以处理ONNX以外的AI框架格式。此外,DRP-AI能够以与传统DRP-AI翻译流程相同的方式处理AI推理的预处理,从而提高包括预处理在内的总的AI性能。

DRP-AI TVM的配置

99021058-e6bc-11ed-ab56-dac502259ad0.png

用DRP-AI TVM对AI模型操作员

进行自动CPU分配

9911f324-e6bc-11ed-ab56-dac502259ad0.png

DRP-AI TVM可在GitHub上使用,方便客户访问。GitHub包含教程、示例代码、各种人工智能模型的性能评估结果以及其他足以让客户使用产品的信息。这些教程包括在瑞萨评估板上从构建环境到推理的步骤,客户可以通过这些步骤轻松评估他们的人工智能模型。瑞萨将继续改善用户体验,使客户更容易使用瑞萨的产品。

参考资料

01

DRP-AI TVM由Edgecortix MERATM编译器框架提供支持,DRP-AI的更多内容请点击文末阅读原文查看介绍页

02

Apache TVM网站

https://tvm.apache.org/

03

RZ/V系列介绍

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv-embedded-ai-mpus

04

Renesas info wiki RZ/V系列

https://renesas.info/wiki/RZ-V

05

DRP-AI TVM GitHub

https://github.com/renesas-rz/rzv_drp-ai_tvm

06

DRP-AI TVM教程

https://www.renesas.cn/cn/zh/application/key-technology/artificial-intelligence/ai-accelerator-drp-ai/ai-tool-drp-ai-tvm

07

EVK购买链接:

• RZ/V2L评估板套件

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2l-evkit-rzv2l-evaluation-board-kit

• RZ/V2M评估板套件

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2m-evkit-rzv2m-evaluation-board-kit

• RZ/V2MA评估板套件

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2ma-evaluation-board-kit-rzv2ma-evaluation-board-kit

1

END

1

瑞萨电子 (TSE: 6723)

科技让生活更轻松,致力于打造更安全、更智能、可持续发展的未来。作为全球微控制器供应商,瑞萨电子融合了在嵌入式处理、模拟电源及连接方面的专业知识,提供完整的半导体解决方案。成功产品组合加速汽车、工业、基础设施及物联网应用上市,赋能数十亿联网智能设备改善人们的工作和生活方式。更多信息,敬请访问renesas.com


原文标题:工程师说 | 引入DRP-AI TVM以简化AI模型的实施

文章出处:【微信公众号:瑞萨电子】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 瑞萨
    +关注

    关注

    38

    文章

    22543

    浏览量

    91749

原文标题:工程师说 | 引入DRP-AI TVM以简化AI模型的实施

文章出处:【微信号:瑞萨电子,微信公众号:瑞萨电子】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    AI+全能测试工程师(包更新) (讠果xingkeit-top)#AI

    AI
    jf_98563832
    发布于 :2026年05月29日 17:28:07

    黑马-Java+AI新版V16零基础就业班百度云网盘下载+Java+AI全栈开发工程师

    ,要么主动将 AI 能力深度融入 Java 技术体系,成为具备“传统架构 + 智能增强”双重竞争力的融合型工程师。Java+AI 融合开发并非简单的 SDK 调用,而是一套从架构模式、数据流设计到部署运维
    发表于 05-01 11:29

    [完结15章]Java转 AI高薪领域必备-从0到1打通生产级AI Agent开发

    拒绝原地踏步:Java工程师AI转型的底层技术破局之道 在软件工程范式被大语言模型(LLM)彻底颠覆的今天,传统的“Java CRUD boy”正面临着前所未有的生存危机。当业务逻辑
    发表于 04-30 13:46

    Java转 AI高薪领域必备 从0到1打通生产级AI Agent开发 教程资料

    了高昂的试错成本。从经济学角度看,任何转型都必须算清“转换成本”。 “一站式吃透AI Agent开发”的底层逻辑,就是将学习路径的边际成本降到最低。它要求学习者不要去和算法工程师抢夺显卡算力的知识
    发表于 04-29 17:08

    AI模型微调企业项目实战课

    自主可控大模型:企业微调实战课,筑牢未来 AI 底座 在人工智能席卷全球商业版图的今天,企业对大模型(LLM)的态度已经从“新奇观望”转变为“全面拥抱”。然而,随着应用层面的不断深入,一个严峻
    发表于 04-16 18:48

    Token烧了几十亿,代码还是一团乱!AI原生开发该怎么管理?

    你与大模型聊天干活的记录,或许可用于做一次新的“MBTI”性格测试。当驾驭工程的不少事儿都能交给 AI 工具去做,我们只需要“观测”与“控制”,迎接“人人都是技术管理者”的时代。以前,写代码的都是
    发表于 04-14 19:50

    模型 ai coding 比较

    序 我主要用途是 ai coding,从各种渠道获取到了很多 不同的大模型排序 最多的是 opus 4.6 > k2.5 > glm5 >
    发表于 02-19 13:43

    使用NORDIC AI的好处

    Connect SDK :提供统一的 C 运行时、DSP 库和示例工程,方便在 Nordic SoC 上集成和运行模型。[Edge AI Add-on 文档; Neuton 集成博客] 适用场景广泛
    发表于 01-31 23:16

    AI模型的配置AI模型该怎么做?

    STM32可以跑AI,这个AI模型怎么搞,知识盲区
    发表于 10-14 07:14

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片到AGI芯片

    能力 2)内存带宽 3)边缘设备的AI算力 2、架构与形态 1)AGI芯片的基本架构 设计AGI芯片需考虑哪些因素: ①具身智能的大部分功能,是实现从外部环境得到的感知 ②把基于大模型的MoE架构引入
    发表于 09-18 15:31

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI的科学应用

    的科学革命时期。主要是自然现象的经验描述,被称为实验科学。 第二范式:被称为理论科学,它以数学模型和理论为基础,研究现象的基本原理和规律。 第二范式推动了数值计算的第三范式的变化。 第四范式:数据驱动将
    发表于 09-17 11:45

    【「AI芯片:科技探索与AGI愿景」阅读体验】+可期之变:从AI硬件到AI湿件

    想到,除了研究大脑的抽象数学模型外,能否抛弃传统的芯片实现方式,化学物质和生物组件、材料及相关现象来构建人工神经网络或提取其功能来用于AI处理,甚至直接用生物体来实现AI功能,这就是
    发表于 09-06 19:12

    关于NanoEdge AI用于n-Class的问题求解

    ,但把模型的静态库加到Keil5的工程中编译后运行在STM32F407G-DISC1的开发板上仿真测试时,我输入的数据不管怎么变,AI模型输出的结果永远是第1个分类(非unknown)
    发表于 08-11 06:44

    AI的未来,属于那些既能写代码,又能焊电路的“双栖人才”

    的信号:AI真正的未来,不只属于“算法天才”,更属于那些既能写代码,又能焊电路的“双栖工程师”。无论是在AI芯片、智能终端、机器人、边缘计算还是大模型下沉的讨论中,我们不断听到同一个问
    发表于 07-30 16:15