神经网络改进算法在识别模型中的应用

、神经网络改进算法在车牌识别中的应用杨平乐王勇（江苏科技大学张家港校区江苏张家港215600）摘要：介绍了车牌识别的背景、意义和一般实现过程,在对采用BP算法的神经网络进行分析的基础上,针对标准BP算法的不足进行了改进，通过对作用函数进行修正、自动调节学习率以及选择初始权值后得到了改进的BP算法，并给出了在车牌识别技术中的应用实例。对比分析识别数据，可以看出算法改进后的识别性能得到了优化，最后对其特点进行了总结。关键词:神经网络；车牌识别；BP算法ApplicationofUpdatedBPArithmeticInVehicleLicensePlateRecognitionYANGPING-LE,WANGQIAN-PINGAbstract:First,thebackground,significanceandgeneralimplementationofvehiclelicenseplaterecognition(VLPR)areintroduced.Basedonanalyzingthetheoryofneuralnetworkpatternrecognitionsystem,towardthelimitationofstandardBParithmetic,thisthesisoffersitsimprovedmethodandarealrecognitionexample.Finally,conclusiononitscharacteristicisgiven.Keywords:neuralnetwork;Vehiclelicenseplaterecognition;BParithmetic1引言近年来，随着交通现代化的发展要求，智能交通系统(ITS)是未来交通系统的发展方向，其是将先进的信息技术、数据通讯传输技术、电子传感技术、控制技术及计算机技术等有效地集成运用于整个地面交通管理系统而建立的一种在大范围内、全方位发挥作用的，实时、准确、高效的综合交通运输管理系统。汽车牌照自动识别技术作为智能交通系统的重要组成部分【1～3】，已经越来越受到人们的重视，它在公共安全及交通管理中有着重要的应用价值。由于影响图像的因素很多,并且各种干扰噪音因素可能会造成图像很大程度上的畸变，其与车辆牌照类别之间通常存在复杂的非线性关系。神经网络具有很强的自学习性、自适应性和容错性，是处理非线性问题的较好选择。BP神经网络模型是人工神经网络的重要模型之一。通常，BP算法是通过一些学习规则来调整神经元之间的连接权值，BP学习算法(逆传播学习算法)具有思路清晰、结构严谨、工作状态稳定、可操作性强的特点。2前向神经网络基本理论2.1神经元的信息处理对于输入信号X1、X2、…、XN，膜电位的变化量由输入信号的加权和来决定，如下式所示：作者简介：杨平乐（1983-），男，讲师，主要研究方向是人工智能模式识别，嵌入式应用研究E-mail：[e-mail]；王勇，讲师。主要研究方向是模式识别。1NuwXiii(1)输出信号Y则可表示为:()Yfu(2)式中：θ为阈值。在连续时间模型中，通常膜电位服从下列方程：()1NduutwXiidti(3)式中:τ为时间间隔，这时输出Y可表示为：(())Yfut。2.2神经元的信息处理对于没有反馈的神经网络，假设有一个包含了输入层、隐含层和输出层的3层前向神经网络，其输入为X=（X1,X2,……,XN），输出为Y=(Y1,Y2,……,YM)。从输入X=（X1,X2,……,XN）到输出Y=(Y1,Y2,……,YM)的映射为：()YFwhijjjjij(i=1,2,…,M;j=1,2,…,N)()1hfwXjiijkkk(k=1,2,…,N)(4)式中：N、M分别为神经网络的输入和输出的维数，H=(h1,h2,…,hN)是隐含神经元的输出。此映射由网络参数(连接权和阈值)决定，故神经网络的映射可表示为：(Y,)YfC其中：C=(C1,C2,…,CN)为可修改参数。当神经网络存在反馈连接时,有如下方程：()=-()(,)[()]Z()dutuwfudt,(5)式中：为时间间隔，Z是外界输入的直接激励总和。其中神经元在神经网络中的位置坐标()u为位置上神经元的膜电位，(,)w,是从,位置神经元到位置神经元的连接权值。3BP算法及其改进3.1标准BP算法的计算步骤BP算法由两部分组成：信息的正向传递与误差的反向传播。在正向传递过程中，输入信息从输入层经隐含层逐层计算传向输出层，每一层神经元的状态只影响下一层神经元的状态。如果在输出层没有得到期望的输出，则计算输出层的误差变化值，然后转向反向传播，通过网络将误差信号沿原来的连接通路反传回来修改各层神经元的权值直至达到期望目标。(1)初始化。确定神经元的作用函数(通常取为S型函数,即：1()1fxxe)，给定允许误差(0)、学习率及惯性因子(0)，并选择初始权值STARTww；(2)计算网络输出Y，求出误分类输出节点指标集B，如果为空，转(3)，否则转(4)；(3)计算误差函数()Ew(雅可比矩阵2()JK)，如果2()(())EwJK,转(5)；(4)修正权值(1)().()(1)wkwKJKwK，转(2)；(5)存储最优权值,ww，算法结束。3.2改进的BP算法及验算BP网络广泛应用于函数逼近、模式识别和系统辨识，但BP算法收敛速度很慢。为了加快网络收敛，减少训练时间，提出了一种改进的BP算法，仿真研究表明，与标准BP算法相比，该算法具有收敛速度快，函数逼近精度高的优点。改进包含以下几个方面：（a）修正作用函数在标准BP算法中，神经元的作用函数通常取为S型函数，即1()1fxxe，由于作用函数的形状固定不变，影响了网络的收敛速度。所以，对作用函数进行了如下的修正：1(,,)()1fxssxe（6）相比之下，公式(6)在神经元模型中增加了一个可调偏置参数，当0时，它使得作用函数沿水平方向向左移动。而且，在BP网络的误差反向传播时，作用函数的斜率S和偏置都随误差信号进行修正，这样不仅可以提高神经元的自适应能力，同时也很明显地加快了算法的收敛速度。（b）学习率学习率决定每次循环训练中所产生的权值变化量。大的学习率可能导致系统不稳定；小的学习率则导致较长的训练时间。所以，好的办法是系统自动调节学习率。（c）初始权值的选取对于非线性系统，初始值的选取十分重要，它直接影响到学习是否能够收敛及训练时间的长短。初始值过大，使加权后的输入和n落入S型激活函数的饱和区，使调节过程几乎停顿。所以，一般初始权值是(-1,1)之间的随机数。威得罗等人提出了一个策略：选取权值的量级为，其中1S为第一层神经元的数目，可以在较少的训练次数得到满意的训练结果。MATLAB工具箱中用函数lognwm实现【4】。为了验证改进BP算法的快速收敛性能，构造了一个BP网络。输入节点为1,2xx，输出节点分别为输入节点的逻辑与1y、逻辑或2y及异或3y。表1列出了标准BP算法和改进后BP算法的计算结果及耗时情况(学习速率0.20u,惯性因子0.10)。表1两种算法收敛速度比较4车牌识别BP网络模型4.1车牌识别预处理对于在公路交通中所获得的汽车图像，经过消除噪声、灰度化、二值化等处理后，首先应将车牌区域提取出来。可以应用扫描法或根据颜色定位法等方法进行车牌的定位。经过分割出的车牌上含有汉字、英文及阿拉伯数字，在对它们进行逐个识别之前，必须把它们归一化到345101010EEE345101010EEE一个标准尺寸上，并根据一定的规则对单个字符作识别预处理,为字符识别做准备【5】。经过预处理环节,牌照中的每个字母和数字被单独区分开。4.2BP算法用于汽车牌照字符识别4.2.1.字符编码与分组经过车牌定位、识别预处理等环节，牌照中每个字母与数字形成灰度图像而被提取出来.。对单个字符的黑白图像用5*5的网格进行分割，黑色的网格用1表示，白色的网格用-1表示，用数组x[25]表示该字符的BP网络输入值【7】。本符号识别系统，若要36个字符作为一组用BP网络进行判别，输入层需要25个节点，输出层需要36个节点，隐含层至少需要50个节点。这样的BP网络计算量巨大，学习收敛速率极慢,以至于经常出现不可预料的结果。使用把大问题化成许多小问题的思想方法，把36个字符按顺序分成4组，每组9个字符。即第一组ABCDEFGHI，第二组JKLMNOPQR，第三组STUVWXYZ0，最后一组123456789。使用编号为1～4的4个BP网络实现对每组字符的识别，减小了网络的规模，可以达到较好的识别效果。4.2.2.BP网络分类器的设计基于对称性原理，4个BP网络的结构是相同的。每个网络的输入层有25个节点，输出层有6个节点，隐含层经过试验选取15个节点。基于前述的将36个字符分为4组的办法，要实现字符的自动识别，首先应设计一个用于将字符正确分组的BP网络，然后将字符送入所对应的网络中进行识别。4.3实验结果分析（1）收敛速度分析将改进BP算法用于同一个英文字母识别问题中进行考察。为方便起见，只提取一组数据进行训练，取学习率μ=2.0，惯性因子α=0，训练结果如表2所示。表2两种BP算法在英文字母识别中收敛速度比较从表2可以看出，与标准BP算法相比较，改进的BP算法所需迭代次数和总的学习时间都最短。这是由于在误差反向传播时，增加了神经元偏置σ的自修正，因而总的迭代次数减少了，总的耗时也大为减小。在不同精度要求下，两种不同算法的差异是不相同的。当精度要求较低时，两种算法所需时间差别不大，随着精度要求的提高，两种算法的差异越来越大，改进BP算法的优越性也就发挥得更好。（2）隐含层节点数与学习速率分析对于当前的BP网络，当误差限确定时，学习速率越大，学习次数越少，同时，网络的训练精度也随之降低。当误差限为0.0001时，隐含层节点数与学习速率的关系如下表所示。在学习速率给定的条件下，隐含层节点越多，所需学习次数越少，BP网络的记忆能力越强。但是，隐含层节点过多，会造成网络因为振荡而失去判别能力。表3隐含层节点数与学习速率关系表345101010EEE345101010EEE综合表3，得出解决该问题的BP网络的最佳参数为：隐含层节点15个、学习速率为0.6、误差限为0.0001。5结束语随着现代交通的发展，汽车牌照自动识别技术将得到更加广泛的研究与应用。通过修正BP算法作用函数、自动调节学习率以及初始权值的选择，改进了神经网络模式识别系统的识别能力，实验证明改进的BP算法比传统的BP算法训练速度快，可以达到很高的误差精度，具有收敛速度快、识别时间短、识别率非常高的优点。用此方法训练后的神经网络对模式识别任务进行识别，收到了很好的识别结果。参考文献[1]PaoloComellietal.OpticalRecognitionofMotorVehicleLicensePlate[J].IEEETransonVehicularTechnology,1995;44(4):790~799[2]J.Palen,“TheNeedForSurveillanceinIntelligentTransportationSystems,PartII,”Intelligentmotion,Volume6,Number2,1997,Cali2forniaPATH[3]张国伍.智能交通系统工程导论[M].北京：电子工业出版社，2003，9.[4]丛爽.面向MATLAB工具箱的神经网络理论与应用[M].合肥:中国科学技术大学出版社,1998.46～150.[5]Kenneth.R.Castleman.《DIGITALIMAGEPROCESS2ING》[6]张立明等著,《人工神经网络的模型及其应用》,复旦大学出版社[7]沈清、汤霖等著,《模式识别导论