瑞芯微(EASY EAI)RV1126B 车牌识别

1. 车牌识别检测简介

EAI-LPR是一个高性能中文车牌识别框架，识别速度快。准确率高，在出入口场景下，准确率可达98%；支持多种车牌类型，包括单行蓝牌、单行黄牌、新能源车牌、教练车牌等，还可有限支持白色警用车牌、使馆/港澳车牌、双层黄牌、武警车牌等；采用端到端识别，无需字符分割，直接输出识别结果。

使用轻量级卷积神经网络定位图像中的车牌区域，对倾斜的车牌进行仿射变换矫正，使其水平，再采用端到端的OCR模型直接输出车牌号码。广泛应用于智能交通、安防监控、智慧城市、移动应用等领域，如车辆出入口管理、停车场系统、车辆轨迹追踪、异常行为检测、交通流量统计、违章抓拍以及手机APP车牌识别功能等。

本教程针对EAI-LPR车牌识别算法部署到EASY-EAI-Nano-TB(RV1126B)进行说明。

本车牌识别算法在数据集表现如下所示：

基于EASY-EAI-Nano-TB硬件主板的运行效率：

2. 快速上手

2.1 开发环境准备

如果您初次阅读此文档，请阅读《入门指南/开发环境准备/Easy-Eai编译环境准备与更新》，并按照其相关的操作，进行编译环境的部署。

在PC端Ubuntu系统中执行run脚本，进入EASY-EAI编译环境，具体如下所示。

cd ~/develop_environment ./run.sh 2204

2.2 源码下载

在EASY-EAI编译环境下创建存放源码仓库的管理目录：

cd /opt mkdir EASY-EAI-Toolkit cd EASY-EAI-Toolkit

通过git工具，在管理目录内克隆远程仓库

git clone https://github.com/EASY-EAI/EASY-EAI-Toolkit-1126B.git

注：

* 此处可能会因网络原因造成卡顿，请耐心等待。

* 如果实在要在gitHub网页上下载，也要把整个仓库下载下来，不能单独下载本实例对应的目录。

2.3 模型部署

要完成算法Demo的执行，需要先下载车牌识别算法模型。

百度网盘链接为：https://pan.baidu.com/s/1y-NIDZjIZCEqZLxlYgU8Vw?pwd=1234 （提取码：1234 ）。

同时需要把下载的车牌识别算法模型复制粘贴到Release/目录：

2.4 例程编译

进入到对应的例程目录执行编译操作，具体命令如下所示：

cd EASY-EAI-Toolkit-1126B/Demos/algorithm-lpr/ ./build.sh cpres

注：

* 由于依赖库部署在板卡上，因此交叉编译过程中必须保持/mnt挂载。

* 若build.sh脚本带有cpres参数，则会把Release/目录下的所有资源都拷贝到开发板上。

2.5 例程运行及效果

通过串口调试或ssh调试，进入板卡后台，定位到例程部署的位置，如下所示：

cd /userdata/Demo/algorithm-lpr/

运行例程命令如下所示：

sudo ./test-lpr lpr_det.model lpr_cls.model lpr_rec.model 2.jpg

在EASY-EAI编译环境可以取回测试图片:

cp /mnt/userdata/Demo/algorithm-lpr/dst.jpg .

结果图片如下所示：

API的详细说明，以及API的调用（本例程源码），详细信息见下方说明。

3. 车牌识别API说明

3.1 引用方式

为方便客户在本地工程中直接调用我们的EASY EAI api库，此处列出工程中需要链接的库以及头文件等，方便用户直接添加。

3.2 车牌识别初始化函数

车牌识别初始化函数原型如下所示。

int lpr_init(const char *p_det_model, const char *p_cls_model, const char *p_rec_model, rknn_lpr_t *p_lpr)

具体介绍如下所示。

3.3 车牌识别运行函数

车牌识别运行函数lpr_run原型如下所示。

std::vector lpr_run(cv::Mat image, rknn_lpr_t *p_lpr, float conf_thresh, float nms_thresh);

具体介绍如下所示。

3.4 车牌识别释放函数

车牌识别释放函数原型如下所示。

int lpr_release(rknn_lpr_t *p_lpr)

具体介绍如下所示。

4. 车辆识别算法例程

例程目录为Demos/algorithm-car/test-lpr.cpp，操作流程如下。

参考例程如下所示。

#include #include #include #include #include #include #include #include #include #include "lpr_detector.h" #include "lpr_classifier.h" #include "lpr_recognizer.h" #include "lpr.h" #include "put_text_zh.h" /******************************************* * 车牌识别demo ********************************************/ int lpr_demo(char *p_det_path, char *p_cls_path, char *p_rec_path, char *p_img_path) { struct timeval start; struct timeval end; float time_use=0; std::vector layers = { "单层", "双层"}; std::vector colors = { "蓝色", "绿色", "黄色" }; PutTextZH put_text = PutTextZH("./simhei.ttf"); cv::Scalar font_size{ 30, 0.5, 0.1, 0 }; // 字体大小/空白比例/间隔比例/旋转角度 put_text.setFont(nullptr, &font_size, nullptr, nullptr); cv::Mat image = cv::imread(p_img_path); rknn_lpr_t lpr; // 车牌识别初始化 int ret; ret = lpr_init(p_det_path, p_cls_path, p_rec_path, &lpr); // 车牌识别 float conf_thresh = 0.35; float nms_thresh = 0.35; gettimeofday(&start,NULL); std::vector results = lpr_run(image, &lpr, conf_thresh, nms_thresh); gettimeofday(&end,NULL); time_use=(end.tv_sec-start.tv_sec)*1000000+(end.tv_usec-start.tv_usec);//微秒 printf("车牌识别耗时： %f\n",time_use/1000); // 绘制结果 int num = results.size(); for (int i = 0; i < num; i++) { cv::rectangle(image, results[i].box, CV_RGB(255, 0, 0), 2); for (int j = 0; j < 4; j++) { cv::circle(image, results[i].key_pts[j], 2, CV_RGB(0, 255, 0), 3); } //char p_text[128] = ""; //for (int j = 0; j < results[i].char_list.size(); j++) { // sprintf(p_text, "%s%s", p_text, results[i].char_list[j].c_str()); //} //sprintf(p_text, "%s score: %0.2f", p_text, results[i].det_score); //cv::putText(image, p_text, cv::Point(results[i].box.x, results[i].box.y - 5), 1, 2, CV_RGB(255, 0, 0), 3); std::string temp_str; int num = results[i].char_list.size(); for (int j = 0; j < num; j++) { temp_str += results[i].char_list[j]; } // 转换为宽字符字符串 std::wstring_convert> converter; std::wstring wstr = converter.from_bytes(temp_str); // 如果需要 wchar_t 数组 wchar_t w_text[256]; wcsncpy(w_text, wstr.c_str(), sizeof(w_text) / sizeof(wchar_t)); w_text[255] = L'\0'; put_text.putText(image, w_text, cv::Point(results[i].box.x, results[i].box.y - 5), CV_RGB(255, 0, 0)); printf("车牌%d：%s, 颜色: %s, 车牌层数: %s\n", i+1, temp_str.c_str(), colors[results[i].color].c_str(), layers[results[i].layer_num].c_str()); } cv::imwrite("dst.jpg", image); // 车牌识别释放 ret = lpr_release(&lpr); return ret; } /******************************************* * 车牌检测demo ********************************************/ int lpr_detector_demo(char *p_det_path, char *p_img_path) { cv::Mat image = cv::imread(p_img_path); rknn_lpr_detector_t lpr_det; // 车牌检测初始化 int ret = rknn_lpr_detector_init(p_det_path, &lpr_det); // 车牌检测 float conf_thresh = 0.35; float nms_thresh = 0.35; std::vector results = rknn_lpr_detector_calc(image, &lpr_det, conf_thresh, nms_thresh); // 绘制结果 int num = results.size(); for (int i = 0; i < num; i++) { cv::rectangle(image, results[i].box, CV_RGB(255, 0, 0), 2); for (int j = 0; j < 4; j++) { cv::circle(image, results[i].key_pts[j], 2, CV_RGB(0, 255, 0), 3); } printf("Layer num = %d\n", results[i].layer_num); } cv::imwrite("det.jpg", image); // 车牌检测释放 ret = rknn_lpr_detector_deinit(&lpr_det); return ret; } /******************************************* * 车牌分类Demo ********************************************/ int lpr_classifer_demo(char *p_cls_path, char *p_img_path) { int label = 0; float score; std::vector colors = { "blue", "green", "yellow" }; cv::Mat image = cv::imread(p_img_path); // 车牌分类初始化 rknn_lpr_classifer_t lpr_cls; int ret = rknn_lpr_classifer_init(p_cls_path, &lpr_cls); // 车牌分类计算 ret = rknn_lpr_classifer_calc(image, &lpr_cls, label, score); // 车牌分类释放 ret = rknn_lpr_classifer_deinit(&lpr_cls); return ret; } /******************************************* * 车牌字符识别Demo ********************************************/ int lpr_recognizer_demo(char *p_rec_path, char *p_img_path) { float score; cv::Mat image = cv::imread(p_img_path); // 车牌字符识别初始化 rknn_lpr_recognizer_t lpr_rec; int ret = rknn_lpr_recognizer_init(p_rec_path, &lpr_rec); //车牌字符识别计算 10ms std::vector char_list; ret = rknn_lpr_recognizer_calc(image, &lpr_rec, char_list, score); /* char p_text[128] = ""; int num = char_list.size(); for (int j = 0; j < num; j++) { sprintf(p_text,"%s%s", p_text, char_list[j].c_str()); } printf("车牌字符识别耗时：%0.2fms, 车牌号：%s, score = %0.2f\n", run_time, p_text, score); */ // 车牌字符识别释放 ret = rknn_lpr_recognizer_deinit(&lpr_rec); return ret; } /******************************************* * 主函数 ********************************************/ int main(int argc, char **argv) { if (argc != 5) { printf("%s \n", argv[0]); return -1; } char *p_det_path = argv[1]; char *p_cls_path = argv[2]; char *p_rec_path = argv[3]; char *p_img_path = argv[4]; // 车牌识别demo lpr_demo(p_det_path, p_cls_path, p_rec_path, p_img_path); //// 车牌检测demo //lpr_detector_demo(p_det_path, p_img_path); //// 车牌分类Demo //lpr_classifer_demo(p_cls_path, p_img_path); ////// 车牌字符识别Demo //lpr_recognizer_demo(p_rec_path, p_img_path); return 0; }