使用Renesas RZ/G2进行嵌入式人工智能推理

嵌入式人工智能 （AI） 是指在端点而不是在云中的服务器上进行 AI 推理。

瑞萨电子 RZ/G FOSS（免费和开源软件）AI BSP 是Yocto元层的集合，使许多流行的开源 AI 框架能够在 RZ/G2 系列参考平台上本地运行。这允许用户使用 Arm Cortex CPU 和 NEON 内核直接在嵌入式平台上测试 AI 模型。

目前支持的框架是ArmNN、ONNX Runtime和TensorFlow Lite。

AI BSP 还包括每个框架的示例基准测试应用程序，这些应用程序将测试运行几种流行的预训练图像分类模型的性能。下面的推理时间是元基准 Yocto 层提供的时间的子选择。RZ/G2H SoC 具有最快的推理时序，紧随其后的是RZ/G2L。

图 1：来自 RZ/G AI BSP v3.4.0 的推理时序

元层的源代码发布在 GitHub 上：https ：//github.com/renesas-rz/meta-renesas-ai

与任何开源项目一样，欢迎代码贡献和拉取请求。

购物篮演示应用程序

瑞萨电子以 RZ/G AI BSP 为基础开发了一个模拟购物篮演示应用程序，该应用程序使用机器学习来识别购物篮中的物品。

图 2：在 RZ/G2L 评估板套件平台上运行的 RZ/G 购物篮演示

此演示使用 TensorFlow Lite AI 框架来处理经过训练的自定义 MobileNet v2 SSD 模型，以识别 10 种常见购物物品。然后，该应用程序将每件商品的成本相加并提供总成本，模仿高效并减少零售市场等待时间的“智能结账”。

审核编辑：郭婷