基于tensorflow的车牌号识别系统

关键词：

简介

过去几周我一直在涉足深度学习领域，尤其是卷积神经网络模型。最近，谷歌围绕街景多位数字识别技术发布了一篇不错的paper。该文章描述了一个用于提取街景门牌号的单个端到端神经网络系统。然后，作者阐述了基于同样的网络结构如何来突破谷歌验证码识别系统的准确率。 
为了亲身体验神经网络的实现，我决定尝试设计一个可以解决类似问题的系统：车牌号自动识别系统。设计这样一个系统的原因有3点：

• 我应该能够参照谷歌那篇paper搭建一个同样的或者类似的网络架构：谷歌提供的那个网络架构在验证码识别上相当不错，那么讲道理的话，用它来识别车牌号应该也会很给力。拥有一个知名的网络架构将会大大地简化我学习CNNs的步骤。
• 我可以很容易地生成训练数据。训练神经网络存在一个很大的问题就是需要大量的标签样本。通常要训练好一个网络就需要几十万张标记过的图片。侥幸的是，由于UK车牌号相对一致，所以我可以合成训练数据。
• 好奇心。传统的车牌号自动识别系统依赖于自己编写算法来实现车牌定位，标准化，分割和字符识别等功能。照这样的话，实现这些系统的代码可能达到上千行。然而，我比较感兴趣的是，如何使用相对较少的代码和最少的专业领域知识来开发一个不错的系统。

开发该项目的环境要求有Python,Tensorflow,OpenCV和NumPy等软件。源代码在这里。

输入，输出和滑窗

为了简化生成的训练图片，减少计算量，我决定该网络可操作的输入图片为128*64的灰度图。

选用128*64分辨率的图片作为输入，对于基于适当的资源和合理的时间训练来说足够小，对于车牌号读取来说也足够大。

为了在更大的图片中检测车牌号，采用了一个多尺度的滑窗来解决。

右边的图片是神经网络的输入图片，大小为128*64，而左边的图片则展示了在原始输入图片的上下文中的滑窗。

对于每个滑窗，网络都会输出：

• 输入图片中存在车牌的概率。（上边动画所显示的绿框）
• 每个位置上的字符的概率，比如针对7个可能位置中的每一个位置，网络都应该返回一个贯穿36个可能的字符的概率分布。（在这个项目中我假定车牌号恰好有7位字符，UK车牌号通常都这样）

考虑一个车牌存在当且仅当：

• 车牌完全包含在图片边界内。
• 车牌的宽度小于图片宽度的80%，且车牌的高度小于图片高度的87.5%。
• 车牌的宽度大于图片宽度的60%，或车牌的高度大于图片高度的60%。

为了检测这些号码，我们可以利用一个滑窗，每次滑动8个像素，而且在保证不丢失车牌的情况下提供一个缩放等级，缩放系数为，同时对于任何单个的车牌不会生成过量的匹配框。在后处理过程中会做一些复本（稍后解释）。

合成图片

为了训练任何一个神经网络，必须提供一套拥有正确输出的训练数据。在这里表现为一套拥有期望输出的128*64大小的图片。这里给出一个本项目生成的训练数据的实例：

•  期望输出 HH41RFP 1。
•  期望输出 FB78PFD 1。
•  期望输出 JW01GAI 0。（车牌部分截断）
•  期望输出 AM46KVG 0。（车牌太小）
•  期望输出 XG86KIO 0。（车牌太大）
•  期望输出 XH07NYO 0。（车牌不存在）

期望输出的第一部分表示网络应该输出的号码，第二部分表示网络应该输出的“存在”值。对于标记过的数据不存在的情况我在括号里作了解释。

生成图片的过程如下图所示:

文本和车牌的颜色是随机选择的，但是文本颜色必须比车牌颜色更深一些。这是为了模拟真实场景的光线变化。最后再加入一些噪音，这样不仅能够解释真实传感器的噪音，而且能够避免过多依赖于锐化的轮廓边界而看到的将会是离焦的输入图片。

拥有背景是很重要的，这意味着网络必须学习分辨没有“欺骗”的车牌号边界：使用一个黑色背景为例，网络可能会基于非黑色来学习分辨车牌的位置，这会导致分不清楚真实图片里的小汽车。

背景图片来源于SUN database，里面包含了超过10万张图片。重要的是大量的图片可以避免网络“记住”背景图片。

车牌变换采用了一种基于随机滚转、倾斜、偏转、平移以及缩放的仿射变换。每个参数允许的范围是车牌号可能被看到的所有情况的集合。比如，偏转比滚转允许变化更多（你更可能看到一辆汽车在拐弯而不是翻转到一边）。

生成图片的代码相对较短（大约300行）。可以从gen.py里读取。

网络结构

使用的网络结构如下图所示：

通过维基百科可以查看CNN模块的介绍。上面的网络结构实际上是基于Stark的这篇paper，关于这个结构它比谷歌的那篇paper给出了更多的细节。

输出层有一个节点（左边）被用来作为车牌是否存在的指示器。剩下的节点用来编码一个特定车牌号的概率：图中的每一列与车牌号中的每一位号码一致，每一个节点给出与存在的字符相符合的概率。例如，位于第2列第3行的节点给出车牌号中第二个号码是字符c的概率。

除了输出层使用ReLU激活函数之外，所有层都采用深度神经网络的标准结构。指示存在的节点使用sigmoid激活函数，典型地用于二值输出。其他输出节点使用softmax贯穿字符（结果是每一列的概率之和为1），是模型化离散概率分布的标准方法。

定义网络结构的代码在model.py里。

根据标签和网络输出的交叉熵来定义损失函数。为了数值稳定性，利用softmax_cross_entropy_with_logits和sigmoid_cross_entropy_with_logits将最后一层的激活函数卷入交叉熵的计算。关于对交叉熵详细而直观的介绍可以参考Michael A. Nielsen的free online book中查看这一节。

使用一块nVidia GTX 970花费大约6小时来训练（train.py），通过CPU的一个后台进程来运行训练数据的生成。

输出处理

事实上为了从输入图片中检测和识别车牌号，搭建了类似于上面的一个检测网络，并采用了多位置和多尺度的128*64滑窗，这在滑窗那一节有所描述。

检测网络和训练网络的不同点在于最后两层采用了卷积层而不是全连接层，这样可以使检测网络的输入图片大小不仅限于128*64。将一张完整的图片以一种特定尺寸扔进网络中，然后返回一张每个“像素”拥有一个存在/字符概率值的图片。因为相邻的滑窗会共享很多卷积特征，所以将这些特定图片卷进同一个网络可以避免多次计算同样的特征。

可视化输出的“存在”部分会返回如下所示的图片：

图上的边界框是网络检测存在车牌概率大于99%的区域。设置高阈值的原因是为了解释训练过程中引进的一个偏差：几乎过半的训练图片都包含一个车牌，然而真实场景中有车牌的图片很少见，所以如果设置阈值为50%的话，那么检测网络的假阳性就会偏高。

在检测网络输出之后，我们使用非极大值抑制（NMS）的方法来过滤掉冗余的边界框：

首先将重叠的矩形框分组，然后针对每一组输出：

• 所有边界框的交集。
• 找出组中车牌存在概率最高的边界框对应的车牌号。

下图所示文章最开始给出的那张车牌图片的检测结果：

哎呦，字符R被误检成了P。上图中车牌存在概率最大的滑窗如下图所示：

第一眼似乎以为这个对于检测器来说是小菜一碟，然而事实证明这是过拟合的问题。下图给出了生成训练图片时所用的车牌号中R的字体：

注意字符R腿的角度是如何不同于输入图片中字符R腿的角度。由于网络仅仅学习过上面的那种R字体，因此当遇到不同字体的R字符时就迷惑了。为了测试这种假设，我在GIMP中改进了图片，使得其更接近于训练时的字体：

改进之后，检测得到了正确的输出：

检测的源码在这里detect.py

总结

我已经开源了一个拥有相对较短代码（大约800行）的系统，它不用导入任何特定领域的库以及不需要太多特定领域的知识，就能够实现车牌号自动识别。此外，我还通过在线合成图片的方法解决了上千张训练图片的需求问题（通常是在深度神经网络的情况下）。

另一方面，我的系统也存在一些缺点：

1. 只适用于特定车牌号。尤其是，网络结构明确假定了输出只有7个字符。
2. 只适用于特定字体。
3. 速度太慢。该系统运行一张适当尺寸的图片要花费几秒钟。

为了解决第1个问题，谷歌团队将他们的网络结构的高层拆分成了多个子网络，每一个子网络用于假定输出号码中的不同号码位。还有一个并行的子网络来决定存在多少号码。我觉得这种方法可以应用到这儿，但是我没有在这个项目中实现。

关于第2点我在上面举过例子，由于字体的稍微不同而导致字符R的误检。如果尝试着检测US车牌号的话，误检将会更加严重，因为US车牌号字体类型更多。一个可能的解决方案就是使得训练数据有更多不同的字体类型可选择，尽管还不清楚需要多少字体类型才能成功。

第3点提到的速度慢的问题是扼杀许多应用的cancer：在一个相当强大的GPU上处理一张适当尺寸的输入图片就要花费几秒钟。我认为不引进一种级联式结构的检测网络就想避开这个问题是不太可能的，比如Haar级联，HOG检测器，或者一个更简单的神经网络。

我很有兴趣去尝试和其他机器学习方法的比较会怎样，特别是姿态回归看起来有希望，最后可能会附加一个最基本的分类阶段。如果使用了像scikit-learn这样的机器学习库，那么应该同样简单。

总之，我使用单个CNN网络实现了一个车牌号检测器/识别器，然而从性能方面来讲，它还不能与传统的手工（但更繁琐的）管道线一较高下。

基于pythonopencv的车牌识别智能计费系统设计

文件大小：79M开发环境：Python3.8、OpenCV4.5、Tensorflow1.13.1、PyCharm2020点击下载：点击下载简要概述：随着我国日渐强盛,交通问题也越来越大,人们需要一款高科技的可靠性高的车牌识别系统。本文即是针对这一问题... 查看详情

基于pythonopencv的车牌识别智能计费系统设计

文件大小：79M开发环境：Python3.8、OpenCV4.5、Tensorflow1.13.1、PyCharm2020点击下载：点击下载简要概述：随着我国日渐强盛,交通问题也越来越大,人们需要一款高科技的可靠性高的车牌识别系统。本文即是针对这一问题... 查看详情

车牌识别基于matlabgui模板匹配车牌识别含matlab源码1215期

一、车牌识别简介车牌识别技术起源于20世纪80年代初期，图像模式识别和计算机视觉在其中起到至关重要的作用。随着计算机技术的迅速普及和进步，80年代中后期，车牌识别系统逐步投入市场并使用，但识别精度和速度都不理... 查看详情

车牌识别基于matlab投影模板匹配车牌识别含matlab源码1359期

一、车牌识别简介车牌识别技术起源于20世纪80年代初期，图像模式识别和计算机视觉在其中起到至关重要的作用。随着计算机技术的迅速普及和进步，80年代中后期，车牌识别系统逐步投入市场并使用，但识别精度和速度都不理... 查看详情

车牌识别基于matlab投影模板匹配车牌识别含matlab源码1359期

一、车牌识别简介车牌识别技术起源于20世纪80年代初期，图像模式识别和计算机视觉在其中起到至关重要的作用。随着计算机技术的迅速普及和进步，80年代中后期，车牌识别系统逐步投入市场并使用，但识别精度和速度都不理... 查看详情

基于matlab的车牌识别系统

文件大小：13M代码行数：209行(主程序)开发环境：Matlab2016a下载地址：点击下载简要概述：基于Matlab的车牌识别系统运行效果：运行chepai.m 查看详情

车牌识别基于matlabgui模板匹配新能源轿车货车车牌识别含matlab源码2169期

一、模板匹配车牌识别简介1系统整体设计车牌识别系统包括4个步骤:车牌定位(包括识别图像中的车牌位置并将其分割)、图像处理、字符分割与字符识别,如图1所示。车牌定位的主要功能是从图像中可能包含车牌的候选区域中定... 查看详情

基于springboot+opencv的停车场车牌识别管理系统含人工智能识别算法（附源码论文）

摘要车牌识别系统作为智能交通系统的一个重要组成部分，在交通监控中占有很重要的地位。车牌识别系统可分为图像预处理、车牌定位、字符识别3个部分，其中车牌定位作为获得车辆牌照图像的重要步骤，是后续... 查看详情

基于springboot+opencv的停车场车牌识别管理系统含人工智能识别算法（附源码论文）

摘要车牌识别系统作为智能交通系统的一个重要组成部分，在交通监控中占有很重要的地位。车牌识别系统可分为图像预处理、车牌定位、字符识别3个部分，其中车牌定位作为获得车辆牌照图像的重要步骤，是后续... 查看详情

camera基于深度学习的车牌检测与识别系统实现（课程设计）

基于深度学习的车牌检测与识别系统实现（课程设计）代码+数据集下载地址：下载地址用python3+opencv3做的中国车牌识别，包括算法和客户端界面，只有2个文件，surface.py是界面代码，predict.py是算法代码，界面不是重点所以用tkint... 查看详情

基于springboot的车牌识别系统（附项目地址）

前言介绍springboot+maven实现的车牌识别及训练系统基于java语言的深度学习项目，在整个开源社区来说都相对较少；而基于java语言实现车牌识别EasyPR-Java项目，最后的更新已经是五年以前。本人参考了EasyPR原版C+... 查看详情

基于matlab的车牌识别系统gui界面+模板库

...18下载地址：点击下载简要概述：该设计主要研究基于MATLAB软件的汽车号牌设别系统设计，系统主要包括图像采集、图像预处理、车牌定位、字符分割、字符识别五大核心部分。系统的图像预处理模块是将图像经过图... 查看详情

基于svm与人工神经网络的车牌识别系统(代码片段)

最近研究了支持向量机(SupportVectorMachine，SVM)和人工神经网络(ArtificalNeuralNetwork，ANN)等模式识别理论，结合OpenCV的书：《MasteringOpenCVwithPracticalComputerVisionProjects》，将两种思想运用到车辆的车牌识别算法中。车... 查看详情

基于形态学处理的车牌提取,字符分割和车牌识别算法matlab仿真

1.算法仿真效果matlab2022a仿真结果如下：        2.算法涉及理论知识概要         车牌识别系统(VehicleLicensePlateRecognition，VLPR)是计算机视频图像识别技术在车辆牌照识别... 查看详情

基于深度卷积神经网络的车牌识别(代码片段)

 ANPR算法（车牌自动识别系统）    1.车牌检测            在整个视频帧中检测到车牌的位置。    2.车牌识别         当在图像中检测到车牌时，使用OCR（光学字符识别）算法来识别车牌上的字... 查看详情

基于opencv实现车牌图片识别系统(代码片段)

这是一个基于springboot+maven+opencv实现的图像识别及训练的Demo项目包含车牌识别、人脸识别等功能，贯穿样本处理、模型训练、图像处理、对象检测、对象识别等技术点java语言的深度学习项目，在整个开源社区来说... 查看详情

tensorflow车牌识别实践

http://www.cnblogs.com/jackkwok/p/7228021.html1，运行准备按照https://github.com/matthewearl/deep-anpr说明的用法，运行过程分以下4步：（1）准备10万个背景图片（2）合成1000个测试车牌图像（3）训练，以取得权重参数（4）车牌检测 1.1准备背... 查看详情

毕业设计-题目：基于stm32的车牌识别系统设计(代码片段)

...f0c;这里是丹成学长，今天向大家介绍一个单片机项目基于stm32的车牌识别系统设计大家可用于课程设计或毕业设计技术解答、毕设帮助、开题指导print("Q746876041")2项目课题背景在我们的日常生活中，接触到了很多关... 查看详情