0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

一颗1GHz MCU 全搞定:网络摄像头 + NPU 人脸识别 + 手写数字 方案

RT-Thread官方账号 2026-08-30 10:04 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

本文介绍基于瑞萨 RA8P1(Titan Board Mini)开发板,围绕多核间通信以太网实时网络摄像头、基于 Ethos-U55 NPU 的人脸识别、手写数字识别等主题展开的技术方案,其中三个可完整演示的工程覆盖了边缘视觉产品从采集、存储、传输到端侧推理的完整链路,涉及 RT-Thread 多线程、双核通信、SDRAM 内存规划、以太网传输与 NPU 模型部署等关键技术点。

一. 网络摄像头(以太网实时视频传输)

实验简介:

本实验实现「摄像头采集 → SDRAM 帧缓冲 → 以太网 TCP → 上位机显示」的完整视频链路:


OV5640 传感器通过 MIPI CSI 把图像传入 MCU

VIN(图像采集外设)用 DMA 把整帧写入 SDRAM 的 no-cache 帧缓冲;

RT-Thread 摄像头线程做后处理并发布帧到 TCP 三级队列;

TCP 线程通过千兆以太网把帧发送给 PC 上位机。

组成

说明

OV5640

500 万像素 CMOS 传感器,本工程输出 YUV422,经 MIPI CSI 2 lane 回传

MIPI CSI

摄像头串行接口,D-PHY,2 lane

VIN(图像采集)

RA8P1 图像采集外设,DMA 直接把帧写入 SDRAM

SDRAM

Winbond W9825G6KH,32 MB,16 位总线,时钟约 200 MHz

RT-Thread

摄像头线程(优先级 8)+ TCP 线程(优先级 7)协作

以太网

RMAC + RTL8211 千兆 PHY(FPCRJ45

上位机

PySide6 程序,TCP 9000 端口接收 RGB565 帧并显示

摄像头数据路径与数据量:

2b39e8d6-a417-11f1-ab55-92fbcf53809c.png

OV5640→ MIPI CSI → VIN(DMA 写 SDRAM)→ 摄像头线程后处理 → camera_tcp_frame_publish(memcpy 到3级 stage)→ TCP 线程 → lwIP/RMAC/RTL8211 → 上位机显示

涉及的技术点:

MIPI CSI 与 VIN 采集

内存规划与缓存一致性

多线程协作

网络传输调优


二.基于 NPU 的实时人脸识别

实验简介:

本实验在 Titan Mini 上实现基于 MIPI CSI 摄像头的实时人脸检测:


OV5640 通过 MIPI CSI 接入,VIN 采集图像;

Arm Ethos-U55 NPU 执行 YOLO-Fastest 人脸检测模型推理;

CPU 负责预处理与后处理,检测结果以绿色人脸框叠加显示在 RGB565 LCD 上;

组成

说明

OV5640

500 万像素摄像头,MIPI CSI 接入,640×480 RGB565

VIN

图像采集外设,DMA 把帧写入 SDRAM no-cache 缓冲

CPU(M85)

预处理(灰度/缩放/量化)+ 后处理(解码/NMS)+ 显示调度

Ethos-U55 NPU

执行 YOLO-Fastest 卷积推理

D/AVE2D + GLCDC

在 framebuffer 叠加人脸框并输出到 LCD

LCD

800×480 RGB565 实时预览

2b4b99dc-a417-11f1-ab55-92fbcf53809c.png

数据流:

OV5640→ MIPI CSI → VIN 帧缓冲(SDRAM) → CPU 预处理(缩放 + 灰度化 + INT8 量化,192×192) → Ethos-U55 推理(YOLO-Fastest) → CPU 后处理(反量化 + 解码 + NMS) → D/AVE2D 叠加人脸框 → GLCDC → RGB565 LCD

涉及的技术点:

模型部署链路

YOLO-Fastest使用

预处理与后处理

内存管理


三.手写数字识别

功能:摄像头对准纸面手写数字,板端实时识别 0–9 并将结果叠加显示,识别结果经多帧平滑保持稳定。

数据通路:

2b6cb4f0-a417-11f1-ab55-92fbcf53809c.png

涉及的技术点:

ROI 提取

图像预处理

轻量 CNN + INT8 量化

结果平滑与旋转适配


四.应用场景

RA8P1 这类「1 GHz MCU + NPU」的形态,正好覆盖对成本、功耗与实时性敏感的端侧视觉场景:

机器视觉机器人:目标检测、定位抓取、视觉导航;

安防与门禁:人脸检测/识别、人员统计、异常行为预警;

工业缺陷检测:在产线边缘完成表面缺陷分类,无需把图像全部上传云端;

智能家居IoT:摄像头、可视门铃、家电视觉交互。

端侧推理的核心优势是低延迟(无需上传等待)、隐私安全(图像不出设备)与低功耗。培训中演示的「摄像头 + NPU」组合,正是这些应用的最小可复现原型。


五.活动人群

活动人群:希望上手瑞萨 RA8 系列与 Ethos-U55 NPU 的嵌入式工程师;对 RTOS、边缘 AI 与网络传输完整链路感兴趣的开发者学生;正在评估端侧 AI 落地团队


六.活动安排

形式:线下动手实操,一人一板,边讲边做

时长:1330

场次

地址

上海(9月5日)

徐汇区裕德路126号

氪空间3楼3039会议室

深圳(9月5日)

深圳科技工业园·金融科技

大厦A栋5楼多功能厅

北京(9月12日)

中国农业大学东校区

工院楼-259

武汉(9月12日)

武汉大学

2b924422-a417-11f1-ab55-92fbcf53809c.png

立即报名:


培训福利

专家问诊:在本问卷提交你在不限于RT-Thread使用,或对于嵌入式AI中的困惑。技术专家将在现场“问诊”环节优先解答你的疑惑,让难题不落地。

组团有礼: 3人成团,组团报名并到场参加,获得实物礼品。(需自带电脑参与,现场完成实验。)

如何组队:确定一个属于你们的小组名(如“AI先锋”),在报名表单中“组团”处填写统一的小组名。

硬件折扣:线下购买开发板,立即带走,享培训当天限时优惠。


七.场地支持

本次深圳场培训由深圳科技工业园(集团)有限公司协办。

深圳科技工业园由深圳市政府与中国科学院于1985年共同创立,是中国大陆第一家科技园区、首批国家级高新技术产业园区。园区以新一代信息技术、半导体集成电路人工智能为核心产业集群,是中国科技产业资源最密集的区域之一。本次Workshop落地于此,我们希望借这个技术高地,与更多工业控制嵌入式开发领域的工程师面对面交流。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • mcu
    mcu
    +关注

    关注

    147

    文章

    19738

    浏览量

    408657
  • 摄像头
    +关注

    关注

    61

    文章

    5191

    浏览量

    105011
  • 人脸识别
    +关注

    关注

    77

    文章

    4155

    浏览量

    90431
  • NPU
    NPU
    +关注

    关注

    2

    文章

    425

    浏览量

    22404
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    监控摄像头夜视补光总闪?低压差恒流驱动才是关键

    监控摄像头做夜视补光,真正麻烦的不是LED亮不亮,而是电池电压往下掉以后,补光还能不能稳定输出。 尤其是单节锂电池供电的无线摄像头,电池从满电到低电量,输入电压直在变化。如果LED驱动压差要求较高
    发表于 09-10 15:59

    思睿达POE全系列解析:从协议到DC/DC,一颗网线搞定供电+数据

    —国产电源芯片—思睿达POE全系列解析从协议到DC/DC,一颗网线搞定供电+数据隔离DC/DC·非隔离DC/DC·PD协议做安防的朋友应该都有体会。装一台网络摄像头,既要拉网线传数据,
    的头像 发表于 09-09 14:27 109次阅读
    思睿达POE全系列解析:从协议到DC/DC,<b class='flag-5'>一颗</b>网线<b class='flag-5'>搞定</b>供电+数据

    Ethos-U55 NPU 部署 YOLO-Fastest 实战笔记:从模型转换到工程部署 | 技术集结

    实现高并发、低延迟的嵌入式或边缘端实时识别。本文所有方案内容,都会在我们9月的线下活动带大家学习,除此以外,还有网络摄像头方案
    的头像 发表于 09-01 17:35 2070次阅读
    Ethos-U55 <b class='flag-5'>NPU</b> 部署 YOLO-Fastest 实战笔记:从模型转换到工程部署 | 技术集结

    端侧 AI 视觉实践 ——网络摄像头NPU 人脸识别手写数字识别 | 线下培训

    本文介绍基于瑞萨RA8P1(TitanBoardMini)开发板,围绕多核间通信、以太网实时网络摄像头、基于Ethos-U55NPU人脸
    的头像 发表于 08-23 10:04 238次阅读
    端侧 AI 视觉实践 ——<b class='flag-5'>网络</b><b class='flag-5'>摄像头</b>、<b class='flag-5'>NPU</b> <b class='flag-5'>人脸</b><b class='flag-5'>识别</b>与<b class='flag-5'>手写</b><b class='flag-5'>数字</b><b class='flag-5'>识别</b> | 线下培训

    瑞芯微RV1126B开发板(EASY-EAI-PI2) 网络摄像头方案

    1.方案简介本方案将演示如何利用EASY-EAI-PI2以及MIPI-CSI摄像头制作个【网络
    的头像 发表于 07-22 09:57 1485次阅读
    瑞芯微RV1126B开发板(EASY-EAI-PI2) <b class='flag-5'>网络</b><b class='flag-5'>摄像头</b><b class='flag-5'>方案</b>

    外置Windows Hello摄像头适配条件、识别距离与成像标准详解

    对于多数台式机、老旧笔记本设备而言,机身普遍缺失原生Windows Hello人脸解锁功能。借助外置USB专用摄像头,可低成本实现Windows系统生物识别登录,兼顾便捷性与设备安全性。但普通民用
    的头像 发表于 07-18 09:56 728次阅读

    移动设备摄像头模组防护方案

    随着高清影像与人工智能技术的深度融合,摄像头模组已成为平板电脑和智能手机内部的核心感知单元,是实现高质量摄影、人脸识别、增强现实等丰富功能的关键基础。在移动设备中,紧凑集成的摄像头模组
    的头像 发表于 05-27 17:42 712次阅读
    移动设备<b class='flag-5'>摄像头</b>模组防护<b class='flag-5'>方案</b>

    飞凌嵌入式 RV1126B 开发板+人脸识别门锁系统

    图片,自动检测人脸并返回匹配结果。摄像头实时抓拍识别:点击按钮从视频流抓取帧进行识别。拍照注册:通过
    发表于 05-27 16:02

    方案推荐】一颗芯片搞定4K多画面处理器!宏晶微MS1827,4进4出+8窗口叠加

    的驱动和画面分割 会议/教育体机 多路摄像头+电脑画面合成,支持OSD定制 (如台标、双行字幕) 三、方案优势 vs 传统做法 对比项 传统方案(FPGA + 多颗芯片) MS1
    发表于 05-13 09:33

    瑞芯微(EASY EAI)RV1126B 网络摄像头方案

    1.方案简介本方案将演示如何利用EASY-EAI-Nano-TB以及MIPI-CSI摄像头制作个【网络
    的头像 发表于 04-15 16:49 1573次阅读
    瑞芯微(EASY EAI)RV1126B <b class='flag-5'>网络</b><b class='flag-5'>摄像头</b><b class='flag-5'>方案</b>

    视觉摄像头vs毫米波雷达:谁才是屋智能的“终极眼睛”?

    ”?答案或许并非二选、视觉摄像头摄像头的优势无可替代:它能捕捉色彩、纹理、人脸和姿态,实现身份识别
    的头像 发表于 04-09 13:55 500次阅读
    视觉<b class='flag-5'>摄像头</b>vs毫米波雷达:谁才是<b class='flag-5'>全</b>屋智能的“终极眼睛”?

    【瑞萨AI挑战赛】手写数字识别模型在RA8P1 Titan Board上的部署

    最终的板端部署与运行,完整实现手写数字识别模型的端侧落地,为嵌入式AI开发提供可参考的实践方案、RA8P
    发表于 03-15 20:42

    乐鑫发布首个 MCU 级 Matter 摄像头方案,启明云端乐鑫代理

    乐鑫科技(688018.SH)正式推出业内首个运行于RTOS的MCU级Matter摄像头解决方案。该方案基于ESP32-P4,助力品牌商与开发者打造可在Matter生态中无缝互通的智能
    的头像 发表于 02-27 18:02 1177次阅读
    乐鑫发布首个 <b class='flag-5'>MCU</b> 级 Matter <b class='flag-5'>摄像头</b><b class='flag-5'>方案</b>,启明云端乐鑫代理

    乐鑫科技发布首个MCU级Matter摄像头解决方案

    乐鑫科技 (688018.SH) 正式推出业内首个运行于 RTOS 的 MCU 级 Matter 摄像头解决方案。该方案基于 ESP32-P4,助力品牌商与开发者打造可在 Matter
    的头像 发表于 01-26 14:12 969次阅读

    摄像头与开关异常?刷脸门禁闸机的常见故障及解决技巧

    机头的人脸识别摄像头用途比较易懂,而人脸识别闸机头的继电器是种具有隔离功能的自动控制开关装置,
    的头像 发表于 11-19 10:17 1649次阅读
    <b class='flag-5'>摄像头</b>与开关异常?刷脸门禁闸机的常见故障及解决技巧