使用瑞萨RUHMI工具实现AI模型部署过程

AI无处不在。你在部署AI，你的竞争对手也在部署AI，几乎所有人都在做AI。然而，AI并不简单，不仅在生成有效模型上复杂，在部署上同样充满挑战。

即使你已经有了现成的模型，要把它部署到新的边缘硬件上，往往需要投入大量精力将模型转换成可运行的形式，更不用说让它高效运行。

现在，有了RUHMI，这一切将变得简单。

什么是RUHMI？

Robust Unified Heterogenous Model Integration（RUHMI）是瑞萨电子推出的AI部署工具，旨在简化嵌入式设备中深度神经网络模型的部署。该部署工具集成了EdgeCortixMera2.0编译器，支持TensorFlow Lite和ONNX模型导入，可自动生成优化后的C源代码、头文件，以及二进制运行文件，让用户可以轻松编译并部署到Renesas开发板上。

此外，RUHMI同时提供图形化界面（GUI）和命令行接口（CLI）两种方式，满足不同用户的使用需求。

图形化界面（GUI）：通过集成在E2Studio中的图形化界面，用户可以直观地完成模型转换、生成相关代码，并方便进行二次开发。

命令行接口（CLI）：命令行接口支持Windows和Ubuntu上使用，开发者还可以结合Python等脚本，实现自动化测试和批量化设计验证。

RUHMI演示

下面，通过E2Studio的AI Navigator来演示一个完整的部署过程。

01

打开AI Navigator

打开E2Studio，在顶部的菜单栏中选择“Renesas AI”，在下拉项中选择“AI Navi”。如图1所示。

图1 打开AI Navigator

界面会跳转到AI Navi首页。选择“Select Sample AI Application”。如果是自己的模型，选择“Use Your Project & AI Model”。如图2所示。

图2 选择“Select Sample AI Application”

02

选择示例项目

在“Smart City”中，选择“Image Classification”。如图3所示。

图3 选择“Image Classification”

点击窗口上方的“Import”，等待片刻，E2Studio会自动导入示例项目。如图4所示。

图4 导入示例项目

03

编辑并编译项目

等待示例构建后，窗口会呈现示例项目。点击右侧的“Edit and build”，编译此项目。如图5所示。

图5 编译示例项目

在窗口左侧新出现的两个菜单栏“Convert AI Model”和“Edit Application”中，选择“Convert AI Model”。如图6所示。

图6 选择“Convert AI Model”

点击右侧的“Convert”，进入“Conversion Tool”界面。如图7所示。

图7 进入“Conversion Tool”界面

04

配置转换选项

在“Conversion Tool”界面中，选择项目名称和设备类型。在下拉框中选择“RUHMI AI Compiler”，并选择合适的AI框架。最后选择模型并指定转换输出的目录。点击“Next”进入下一步。如图8所示。

图8 配置转换选项

05

模型优化与转换

项目构建后，如果模型未量化，可以在“Optimization”中量化模型。如图9所示。

图9 优化模型（可选）

进入“Conversion”界面，可以选择“Optimize Mode”、“Memory Mode”和“Weight Location”分别对优化效果、模型存放在内存的位置和权重存放位置进行调整，点击“Start conversion”开始转换模型。如图10所示。

图10 进入“Conversion”界面，并开始转换模型

等待片刻，模型转换完成。此时可在输出目录中查看生成的文件。如图11所示。

图11 查看生成的文件

06

集成转换结果并编译

将输出目录中的所有文件拖入E2Studio项目中。此时会弹出“File Operation”，选择“Copy files”并点击“OK”。如图12所示。

图12 选择“Copy files”

选择“Overwrite All”覆盖全部文件。如图13所示。

图13 选择覆盖全部文件

右键点击项目顶层文件夹，选择“Build Project”编译项目。编译完成后，示例项目就可以运行了。如图14所示。

图14 构建项目

RUHMI硬件支持的开发板

RUHMI主要支持Renesas RA8P1开发版，包括Cortex M85和ETHOS-U55。开发板如图15所示。

图15 RA8P1开发板

RA8P1开发板具备如下优势：

具有MIPI DSI 和MIPI CSI接口，适配HMI应用。

丰富的内存连接能力。

集成ETHOS-U55 AI加速器。

图16 RA8P1的特性

如图16所示，这些特性为模型提供了强大的性能支持，能够让用户充分发挥现有AI模型的性能。

总结

RUHMI大大简化了AI模型在Renesas硬件平台的部署流程。本文完整地呈现了从模型导入、格式转换、性能优化到最终代码生成的全流程部署过程。通过RUHMI工具，用户仅需几步即可实现模型的快速移植，大幅降低了嵌入式AI开发的技术难度。RUHMI通过自动化处理机制，将传统繁琐的部署流程转化为高度标准化的操作，让开发者能够更加专注模型的调优和应用创新。