1. 车牌识别检测简介EAI-LPR是一个高性能中文车牌识别框架识别速度快。准确率高在出入口场景下准确率可达98%支持多种车牌类型包括单行蓝牌、单行黄牌、新能源车牌、教练车牌等还可有限支持白色警用车牌、使馆/港澳车牌、双层黄牌、武警车牌等采用端到端识别无需字符分割直接输出识别结果。使用轻量级卷积神经网络定位图像中的车牌区域对倾斜的车牌进行仿射变换矫正使其水平再采用端到端的OCR模型直接输出车牌号码。广泛应用于智能交通、安防监控、智慧城市、移动应用等领域如车辆出入口管理、停车场系统、车辆轨迹追踪、异常行为检测、交通流量统计、违章抓拍以及手机APP车牌识别功能等。本教程针对EAI-LPR车牌识别算法部署到EASY-EAI-PI2(RV1126B)进行说明。本车牌识别算法在数据集表现如下所示基于EASY-EAI-Nano-TB硬件主板的运行效率2. 快速上手2.1 开发环境准备如果您初次阅读此文档请阅读《入门指南/开发环境准备/Easy-Eai编译环境准备与更新》并按照其相关的操作进行编译环境的部署。在PC端Ubuntu系统中执行run脚本进入EASY-EAI编译环境具体如下所示。cd ~/develop_environment ./run.sh 22042.2 源码下载在EASY-EAI编译环境下创建存放源码仓库的管理目录cd /opt mkdir EASY-EAI-Toolkit cd EASY-EAI-Toolkit通过git工具在管理目录内克隆远程仓库git clone https://github.com/EASY-EAI/EASY-EAI-Toolkit-1126B.git注* 此处可能会因网络原因造成卡顿请耐心等待。* 如果实在要在gitHub网页上下载也要把整个仓库下载下来不能单独下载本实例对应的目录。2.3 模型部署要完成算法Demo的执行需要先下载车牌识别算法模型。百度网盘链接为https://pan.baidu.com/s/1y-NIDZjIZCEqZLxlYgU8Vw?pwd1234 提取码1234 。同时需要把下载的车牌识别算法模型复制粘贴到Release/目录2.4 例程编译进入到对应的例程目录执行编译操作具体命令如下所示cd EASY-EAI-Toolkit-1126B/Demos/algorithm-lpr/ ./build.sh cpres注* 由于依赖库部署在板卡上因此交叉编译过程中必须保持/mnt挂载。* 若build.sh脚本带有cpres参数则会把Release/目录下的所有资源都拷贝到开发板上。2.5 例程运行及效果通过串口调试或ssh调试进入板卡后台定位到例程部署的位置如下所示cd /userdata/Demo/algorithm-lpr/运行例程命令如下所示sudo ./test-lpr lpr_det.model lpr_cls.model lpr_rec.model 2.jpg在EASY-EAI编译环境可以取回测试图片:cp /mnt/userdata/Demo/algorithm-lpr/dst.jpg .结果图片如下所示API的详细说明以及API的调用本例程源码详细信息见下方说明。3. 车牌识别API说明3.1 引用方式为方便客户在本地工程中直接调用我们的EASY EAI api库此处列出工程中需要链接的库以及头文件等方便用户直接添加。3.2 车牌识别初始化函数车牌识别初始化函数原型如下所示。int lpr_init(const char *p_det_model, const char *p_cls_model, const char *p_rec_model, rknn_lpr_t *p_lpr)具体介绍如下所示。3.3 车牌识别运行函数车牌识别运行函数lpr_run原型如下所示。std::vectorrknn_lpr_result_t lpr_run(cv::Mat image, rknn_lpr_t *p_lpr, float conf_thresh, float nms_thresh);具体介绍如下所示。3.4 车牌识别释放函数车牌识别释放函数原型如下所示。int lpr_release(rknn_lpr_t *p_lpr)具体介绍如下所示。4. 车辆识别算法例程例程目录为Demos/algorithm-car/test-lpr.cpp操作流程如下。参考例程如下所示。#include stdint.h #include stdio.h #include stdlib.h #include string.h #include locale #include codecvt #include string #include sys/time.h #include opencv2/opencv.hpp #include lpr_detector.h #include lpr_classifier.h #include lpr_recognizer.h #include lpr.h #include put_text_zh.h /******************************************* * 车牌识别demo ********************************************/ int lpr_demo(char *p_det_path, char *p_cls_path, char *p_rec_path, char *p_img_path) { struct timeval start; struct timeval end; float time_use0; std::vectorstd::string layers { 单层, 双层}; std::vectorstd::string colors { 蓝色, 绿色, 黄色 }; PutTextZH put_text PutTextZH(./simhei.ttf); cv::Scalar font_size{ 30, 0.5, 0.1, 0 }; // 字体大小/空白比例/间隔比例/旋转角度 put_text.setFont(nullptr, font_size, nullptr, nullptr); cv::Mat image cv::imread(p_img_path); rknn_lpr_t lpr; // 车牌识别初始化 int ret; ret lpr_init(p_det_path, p_cls_path, p_rec_path, lpr); // 车牌识别 float conf_thresh 0.35; float nms_thresh 0.35; gettimeofday(start,NULL); std::vectorrknn_lpr_result_t results lpr_run(image, lpr, conf_thresh, nms_thresh); gettimeofday(end,NULL); time_use(end.tv_sec-start.tv_sec)*1000000(end.tv_usec-start.tv_usec);//微秒 printf(车牌识别耗时 %f\n,time_use/1000); // 绘制结果 int num results.size(); for (int i 0; i num; i) { cv::rectangle(image, results[i].box, CV_RGB(255, 0, 0), 2); for (int j 0; j 4; j) { cv::circle(image, results[i].key_pts[j], 2, CV_RGB(0, 255, 0), 3); } //char p_text[128] ; //for (int j 0; j results[i].char_list.size(); j) { // sprintf(p_text, %s%s, p_text, results[i].char_list[j].c_str()); //} //sprintf(p_text, %s score: %0.2f, p_text, results[i].det_score); //cv::putText(image, p_text, cv::Point(results[i].box.x, results[i].box.y - 5), 1, 2, CV_RGB(255, 0, 0), 3); std::string temp_str; int num results[i].char_list.size(); for (int j 0; j num; j) { temp_str results[i].char_list[j]; } // 转换为宽字符字符串 std::wstring_convertstd::codecvt_utf8wchar_t converter; std::wstring wstr converter.from_bytes(temp_str); // 如果需要 wchar_t 数组 wchar_t w_text[256]; wcsncpy(w_text, wstr.c_str(), sizeof(w_text) / sizeof(wchar_t)); w_text[255] L\0; put_text.putText(image, w_text, cv::Point(results[i].box.x, results[i].box.y - 5), CV_RGB(255, 0, 0)); printf(车牌%d%s, 颜色: %s, 车牌层数: %s\n, i1, temp_str.c_str(), colors[results[i].color].c_str(), layers[results[i].layer_num].c_str()); } cv::imwrite(dst.jpg, image); // 车牌识别释放 ret lpr_release(lpr); return ret; } /******************************************* * 车牌检测demo ********************************************/ int lpr_detector_demo(char *p_det_path, char *p_img_path) { cv::Mat image cv::imread(p_img_path); rknn_lpr_detector_t lpr_det; // 车牌检测初始化 int ret rknn_lpr_detector_init(p_det_path, lpr_det); // 车牌检测 float conf_thresh 0.35; float nms_thresh 0.35; std::vectorrknn_lpr_det_result_t results rknn_lpr_detector_calc(image, lpr_det, conf_thresh, nms_thresh); // 绘制结果 int num results.size(); for (int i 0; i num; i) { cv::rectangle(image, results[i].box, CV_RGB(255, 0, 0), 2); for (int j 0; j 4; j) { cv::circle(image, results[i].key_pts[j], 2, CV_RGB(0, 255, 0), 3); } printf(Layer num %d\n, results[i].layer_num); } cv::imwrite(det.jpg, image); // 车牌检测释放 ret rknn_lpr_detector_deinit(lpr_det); return ret; } /******************************************* * 车牌分类Demo ********************************************/ int lpr_classifer_demo(char *p_cls_path, char *p_img_path) { int label 0; float score; std::vectorstd::string colors { blue, green, yellow }; cv::Mat image cv::imread(p_img_path); // 车牌分类初始化 rknn_lpr_classifer_t lpr_cls; int ret rknn_lpr_classifer_init(p_cls_path, lpr_cls); // 车牌分类计算 ret rknn_lpr_classifer_calc(image, lpr_cls, label, score); // 车牌分类释放 ret rknn_lpr_classifer_deinit(lpr_cls); return ret; } /******************************************* * 车牌字符识别Demo ********************************************/ int lpr_recognizer_demo(char *p_rec_path, char *p_img_path) { float score; cv::Mat image cv::imread(p_img_path); // 车牌字符识别初始化 rknn_lpr_recognizer_t lpr_rec; int ret rknn_lpr_recognizer_init(p_rec_path, lpr_rec); //车牌字符识别计算 10ms std::vectorstd::string char_list; ret rknn_lpr_recognizer_calc(image, lpr_rec, char_list, score); /* char p_text[128] ; int num char_list.size(); for (int j 0; j num; j) { sprintf(p_text,%s%s, p_text, char_list[j].c_str()); } printf(车牌字符识别耗时%0.2fms, 车牌号%s, score %0.2f\n, run_time, p_text, score); */ // 车牌字符识别释放 ret rknn_lpr_recognizer_deinit(lpr_rec); return ret; } /******************************************* * 主函数 ********************************************/ int main(int argc, char **argv) { if (argc ! 5) { printf(%s det_model_path cls_model_path rec_model_path image_path\n, argv[0]); return -1; } char *p_det_path argv[1]; char *p_cls_path argv[2]; char *p_rec_path argv[3]; char *p_img_path argv[4]; // 车牌识别demo lpr_demo(p_det_path, p_cls_path, p_rec_path, p_img_path); //// 车牌检测demo //lpr_detector_demo(p_det_path, p_img_path); //// 车牌分类Demo //lpr_classifer_demo(p_cls_path, p_img_path); ////// 车牌字符识别Demo //lpr_recognizer_demo(p_rec_path, p_img_path); return 0; }
瑞芯微RV1126B开发板（EASY-EAI-PI2） 车牌识别算法
1. 车牌识别检测简介EAI-LPR是一个高性能中文车牌识别框架识别速度快。准确率高在出入口场景下准确率可达98%支持多种车牌类型包括单行蓝牌、单行黄牌、新能源车牌、教练车牌等还可有限支持白色警用车牌、使馆/港澳车牌、双层黄牌、武警车牌等采用端到端识别无需字符分割直接输出识别结果。使用轻量级卷积神经网络定位图像中的车牌区域对倾斜的车牌进行仿射变换矫正使其水平再采用端到端的OCR模型直接输出车牌号码。广泛应用于智能交通、安防监控、智慧城市、移动应用等领域如车辆出入口管理、停车场系统、车辆轨迹追踪、异常行为检测、交通流量统计、违章抓拍以及手机APP车牌识别功能等。本教程针对EAI-LPR车牌识别算法部署到EASY-EAI-PI2(RV1126B)进行说明。本车牌识别算法在数据集表现如下所示基于EASY-EAI-Nano-TB硬件主板的运行效率2. 快速上手2.1 开发环境准备如果您初次阅读此文档请阅读《入门指南/开发环境准备/Easy-Eai编译环境准备与更新》并按照其相关的操作进行编译环境的部署。在PC端Ubuntu系统中执行run脚本进入EASY-EAI编译环境具体如下所示。cd ~/develop_environment ./run.sh 22042.2 源码下载在EASY-EAI编译环境下创建存放源码仓库的管理目录cd /opt mkdir EASY-EAI-Toolkit cd EASY-EAI-Toolkit通过git工具在管理目录内克隆远程仓库git clone https://github.com/EASY-EAI/EASY-EAI-Toolkit-1126B.git注* 此处可能会因网络原因造成卡顿请耐心等待。* 如果实在要在gitHub网页上下载也要把整个仓库下载下来不能单独下载本实例对应的目录。2.3 模型部署要完成算法Demo的执行需要先下载车牌识别算法模型。百度网盘链接为https://pan.baidu.com/s/1y-NIDZjIZCEqZLxlYgU8Vw?pwd1234 提取码1234 。同时需要把下载的车牌识别算法模型复制粘贴到Release/目录2.4 例程编译进入到对应的例程目录执行编译操作具体命令如下所示cd EASY-EAI-Toolkit-1126B/Demos/algorithm-lpr/ ./build.sh cpres注* 由于依赖库部署在板卡上因此交叉编译过程中必须保持/mnt挂载。* 若build.sh脚本带有cpres参数则会把Release/目录下的所有资源都拷贝到开发板上。2.5 例程运行及效果通过串口调试或ssh调试进入板卡后台定位到例程部署的位置如下所示cd /userdata/Demo/algorithm-lpr/运行例程命令如下所示sudo ./test-lpr lpr_det.model lpr_cls.model lpr_rec.model 2.jpg在EASY-EAI编译环境可以取回测试图片:cp /mnt/userdata/Demo/algorithm-lpr/dst.jpg .结果图片如下所示API的详细说明以及API的调用本例程源码详细信息见下方说明。3. 车牌识别API说明3.1 引用方式为方便客户在本地工程中直接调用我们的EASY EAI api库此处列出工程中需要链接的库以及头文件等方便用户直接添加。3.2 车牌识别初始化函数车牌识别初始化函数原型如下所示。int lpr_init(const char *p_det_model, const char *p_cls_model, const char *p_rec_model, rknn_lpr_t *p_lpr)具体介绍如下所示。3.3 车牌识别运行函数车牌识别运行函数lpr_run原型如下所示。std::vectorrknn_lpr_result_t lpr_run(cv::Mat image, rknn_lpr_t *p_lpr, float conf_thresh, float nms_thresh);具体介绍如下所示。3.4 车牌识别释放函数车牌识别释放函数原型如下所示。int lpr_release(rknn_lpr_t *p_lpr)具体介绍如下所示。4. 车辆识别算法例程例程目录为Demos/algorithm-car/test-lpr.cpp操作流程如下。参考例程如下所示。#include stdint.h #include stdio.h #include stdlib.h #include string.h #include locale #include codecvt #include string #include sys/time.h #include opencv2/opencv.hpp #include lpr_detector.h #include lpr_classifier.h #include lpr_recognizer.h #include lpr.h #include put_text_zh.h /******************************************* * 车牌识别demo ********************************************/ int lpr_demo(char *p_det_path, char *p_cls_path, char *p_rec_path, char *p_img_path) { struct timeval start; struct timeval end; float time_use0; std::vectorstd::string layers { 单层, 双层}; std::vectorstd::string colors { 蓝色, 绿色, 黄色 }; PutTextZH put_text PutTextZH(./simhei.ttf); cv::Scalar font_size{ 30, 0.5, 0.1, 0 }; // 字体大小/空白比例/间隔比例/旋转角度 put_text.setFont(nullptr, font_size, nullptr, nullptr); cv::Mat image cv::imread(p_img_path); rknn_lpr_t lpr; // 车牌识别初始化 int ret; ret lpr_init(p_det_path, p_cls_path, p_rec_path, lpr); // 车牌识别 float conf_thresh 0.35; float nms_thresh 0.35; gettimeofday(start,NULL); std::vectorrknn_lpr_result_t results lpr_run(image, lpr, conf_thresh, nms_thresh); gettimeofday(end,NULL); time_use(end.tv_sec-start.tv_sec)*1000000(end.tv_usec-start.tv_usec);//微秒 printf(车牌识别耗时 %f\n,time_use/1000); // 绘制结果 int num results.size(); for (int i 0; i num; i) { cv::rectangle(image, results[i].box, CV_RGB(255, 0, 0), 2); for (int j 0; j 4; j) { cv::circle(image, results[i].key_pts[j], 2, CV_RGB(0, 255, 0), 3); } //char p_text[128] ; //for (int j 0; j results[i].char_list.size(); j) { // sprintf(p_text, %s%s, p_text, results[i].char_list[j].c_str()); //} //sprintf(p_text, %s score: %0.2f, p_text, results[i].det_score); //cv::putText(image, p_text, cv::Point(results[i].box.x, results[i].box.y - 5), 1, 2, CV_RGB(255, 0, 0), 3); std::string temp_str; int num results[i].char_list.size(); for (int j 0; j num; j) { temp_str results[i].char_list[j]; } // 转换为宽字符字符串 std::wstring_convertstd::codecvt_utf8wchar_t converter; std::wstring wstr converter.from_bytes(temp_str); // 如果需要 wchar_t 数组 wchar_t w_text[256]; wcsncpy(w_text, wstr.c_str(), sizeof(w_text) / sizeof(wchar_t)); w_text[255] L\0; put_text.putText(image, w_text, cv::Point(results[i].box.x, results[i].box.y - 5), CV_RGB(255, 0, 0)); printf(车牌%d%s, 颜色: %s, 车牌层数: %s\n, i1, temp_str.c_str(), colors[results[i].color].c_str(), layers[results[i].layer_num].c_str()); } cv::imwrite(dst.jpg, image); // 车牌识别释放 ret lpr_release(lpr); return ret; } /******************************************* * 车牌检测demo ********************************************/ int lpr_detector_demo(char *p_det_path, char *p_img_path) { cv::Mat image cv::imread(p_img_path); rknn_lpr_detector_t lpr_det; // 车牌检测初始化 int ret rknn_lpr_detector_init(p_det_path, lpr_det); // 车牌检测 float conf_thresh 0.35; float nms_thresh 0.35; std::vectorrknn_lpr_det_result_t results rknn_lpr_detector_calc(image, lpr_det, conf_thresh, nms_thresh); // 绘制结果 int num results.size(); for (int i 0; i num; i) { cv::rectangle(image, results[i].box, CV_RGB(255, 0, 0), 2); for (int j 0; j 4; j) { cv::circle(image, results[i].key_pts[j], 2, CV_RGB(0, 255, 0), 3); } printf(Layer num %d\n, results[i].layer_num); } cv::imwrite(det.jpg, image); // 车牌检测释放 ret rknn_lpr_detector_deinit(lpr_det); return ret; } /******************************************* * 车牌分类Demo ********************************************/ int lpr_classifer_demo(char *p_cls_path, char *p_img_path) { int label 0; float score; std::vectorstd::string colors { blue, green, yellow }; cv::Mat image cv::imread(p_img_path); // 车牌分类初始化 rknn_lpr_classifer_t lpr_cls; int ret rknn_lpr_classifer_init(p_cls_path, lpr_cls); // 车牌分类计算 ret rknn_lpr_classifer_calc(image, lpr_cls, label, score); // 车牌分类释放 ret rknn_lpr_classifer_deinit(lpr_cls); return ret; } /******************************************* * 车牌字符识别Demo ********************************************/ int lpr_recognizer_demo(char *p_rec_path, char *p_img_path) { float score; cv::Mat image cv::imread(p_img_path); // 车牌字符识别初始化 rknn_lpr_recognizer_t lpr_rec; int ret rknn_lpr_recognizer_init(p_rec_path, lpr_rec); //车牌字符识别计算 10ms std::vectorstd::string char_list; ret rknn_lpr_recognizer_calc(image, lpr_rec, char_list, score); /* char p_text[128] ; int num char_list.size(); for (int j 0; j num; j) { sprintf(p_text,%s%s, p_text, char_list[j].c_str()); } printf(车牌字符识别耗时%0.2fms, 车牌号%s, score %0.2f\n, run_time, p_text, score); */ // 车牌字符识别释放 ret rknn_lpr_recognizer_deinit(lpr_rec); return ret; } /******************************************* * 主函数 ********************************************/ int main(int argc, char **argv) { if (argc ! 5) { printf(%s det_model_path cls_model_path rec_model_path image_path\n, argv[0]); return -1; } char *p_det_path argv[1]; char *p_cls_path argv[2]; char *p_rec_path argv[3]; char *p_img_path argv[4]; // 车牌识别demo lpr_demo(p_det_path, p_cls_path, p_rec_path, p_img_path); //// 车牌检测demo //lpr_detector_demo(p_det_path, p_img_path); //// 车牌分类Demo //lpr_classifer_demo(p_cls_path, p_img_path); ////// 车牌字符识别Demo //lpr_recognizer_demo(p_rec_path, p_img_path); return 0; }
