卷积神经网络

卷积神经网络及人脸检测杨凯B21214048(光信息科学与技术）摘要：卷积神经网络是近年来广泛应用于模式识别、图像处理等领域的一种高效识别算法，它具有结构简单、训练参数少和适应性强等特点。本文从卷积神经网络的发展历史开始，详细阐述了卷积神经网络的网络结构，并详细介绍卷积神经网络对人脸检测识别的应用关键字：模型；结构；人脸检测Abstract:Convolutionneuralnetworkisanefficientrecognitionalgorithmwhichiswidelyusedinpatternrecognition,imageprocessingandotherfieldsrecentyears.Ithasasimplestructure,fewtrainingparametersandgoodadaptabilityandotheradvantages.Inthispaper,beginwiththehistoryofconvolutionalneuralnetworks,describesthestructureofconvolutionalneuralnetwork,Theapplicationofconvolutionalneuralnetworktofacedetectionandrecognitionisintroducedindetail.Keywords：Model;Facedetection;引言卷积神经网络是人工神经网络的一种已成为当前语音分析和图像识别领域的研究热点，它的权值共享网络结构使之更类似于生物神经网络，降低了网络模型的复杂度，减少了权值的数量。该优点在网络的输入是多维图像时表现的更为明显，使图像可以直接作为网络的输入，避免了传统识别算法中复杂的特征提取和数据重建过程。人脸检测作为人脸信息处理中的一项关键技术，近年来成为模式识别与计算机视觉领域内一项受到普遍重视、研究十分活跃的课题，人脸检测问题最初来源于人脸识别。卷积神经网络的发展历史1962年Hubel和Wiesel通过对猫视觉皮层细胞的研究，提出了感受野(receptivefield)的概念，1984年日本学者Fukushima基于感受野概念提出的神经认知机(neocognitron)可以看作是卷积神经网络的第一个实现网络，也是感受野概念在人工神经网络领域的首次应用。神经认知机将一个视觉模式分解成许多子模式(特征)，然后进入分层递阶式相连的特征平面进行处理，它试图将视觉系统模型化，使其能够在即使物体有位移或轻微变形的时候，也能完成识别。神经认知机能够利用位移恒定能力从激励模式中学习，并且可识别这些模式的变化形，在其后的应用研究中，Fukushima将神经认知机主要用于手写数字的识别。随后，国内外的研究人员提出多种卷积神经网络形式，在邮政编码识别和人脸识别方面得到了大规模的应用。Trotin等人提出了动态构造神经认知机并自动降低闭值的方法，初始态的神经认知机各层的神经元数目设为零，然后会对于给定的应用找到合适的网络规模。在构造网络过程中，利用一个反馈信号来预测降低阈值的效果，再基于这种预测来调节阈值。他们指出这种自动阈值调节后的识别率与手工设置阈值的识别率相若，然而，上述反馈信号的具体机制并未给出，并且在他们后来的研究中承认这种自动阈值调节是很困难的Hildebrandt将神经认知机看作是一种线性相关分类器，也通过修改阈值以使神经认知机成为最优的分类器。Lovell应用Hildebrandt的训练方法却没有成功。对此，Hildebrandt解释的是，该方法只能应用于输出层，而不能应用于网络的每一层。事实上，Hildebrandt没有考虑信息在网络传播中会逐层丢失。VanOoyen和Niehuis为提高神经认知机的区别能力引入了一个新的参数。事实上，该参数作为一种抑制信号，抑制了神经元对重复激励特征的激励。多数神经网络在权值中记忆训练信息。根据Hebb学习规则，某种特征训练的次数越多，在以后的识别过程中就越容易被检测。也有学者将进化计算理论与神经认知机结合，通过减弱对重复性激励特征的训练学习，而使得网络注意那些不同的特征以助于提高区分能力。上述都是神经认知机的发展过程，而卷积神经网络可看作是神经认知机的推广形式，神经认知机是卷积神经网络的一种特例。卷积神经网络的结构卷积神经网络是一个多层的神经网络，每层由多个二维平面组成，而每个平面由多个独立神经元组成。网络中包含一些简单元和复杂元，分别记为S-元和C-元。S-元聚合在一起组成S-面，S-面聚合在一起组成S-层，用Us表示。C-元、C-面和C-层(Us)之间存在类似的关系。网络的任一中间级由S-层与C-层串接而成，而输入级只含一层，它直接接受二维视觉模式，样本特征提取步骤已嵌入到卷积神经网络模型的互联结构中。一般地，Us为特征提取层，每个神经元的输入与前一层的局部感受野相连，并提取该局部的特征，一旦该局部特征被提取后，它与其他特征间的位置关系也随之确定下来；Uc是特征映射层，网络的每个计算层由多个特征映射组成，每个特征映射为一个平面，平面上所有神经元的权值相等。特征映射结构采用影响函数核小的sigmoid函数作为卷积网络的激活函数，使得特征映射具有位移不变性。此外，由于一个映射面上的神经元共享权值，因而减少了网络自由参数的个数，降低了网络参数选择的复杂度。卷积神经网络中的每一个特征提取层(S-层)都紧跟着一个用来求局部平均与二次提取的计算层(C-层)，这种特有的两次特征提取结构使网络在识别时对输入样本有较高的畸变容忍能力网络中神经元的输出连接值符合“最大值检出假说即在某一小区域内存在的一个神经元集合中，只有输出最大的神经元才强化输出连接值。所以若神经元近旁存在有输出比其更强的神经元时，其输出连接值将不被强化。根据上述假说，就限定了只有一个神经元会发生强化。卷积神经网络的种元就是某S-面上最大输出的S-元，它不仅可以使其自身强化，而且还控制了邻近元的强化结果。因而，所有的S-元渐渐提取了几乎所有位置上相同的特征。在卷积神经网络早期研究中占主导的无监督学习中，训练一种模式时需花费相当长的时间去自动搜索一层上所有元中具有最大输出的种元，而现在的有监督学习方式中，训练模式同它们的种元皆由教师设定。将原始图像直接输入到输入层(Uc1)，原始图像的大小决定了输入向量的尺寸，神经元提取图像的局部特征，因此每个神经元都与前一层的局部感受野相连。文中使用了4层网络结构，隐层由S-层和C-层组成。每层均包含多个平面，输入层直接映射到Us2层包含的多个平面上。每层中各平面的神经元提取图像中特定区域的局部特征，如边缘特征，方向特征等，在训练时不断修正S-层神经元的权值。同一平面上的神经元权值相同，这样可以有相同程度的位移、旋转不变性。S-层中每个神经元局部输入窗口的大小均为5x5，由于同一个平面上的神经元共享一个权值向量，所以从一个平面到下一个平面的映射可以看作是作卷积运算，S-层可看作是模糊滤波器，起到二次特征提取的作用。隐层与隐层之间空间分辨率递减，而每层所含的平面数递增，这样可用于检测更多的特征信息。最后简要的介绍了卷积神经网络在形状识别和人脸检测中的应用。目前，卷积神经网络已经被应用于二维图像处理、模式识别、机器视觉、形状识别、能交通等领域，并且能够很好的解决各个领域中的问题。卷积神经网络对人脸的检测人工神经网络工作时，所表现出的就是一种计算，利用人工神经网络求解问题时所利用的也正是网络输入到网络输出的某种关系式，神经网络输入/输出是根据网络结构表示的，并且网络的权值往往是通过训练得到的，而不是根据某种性能指标算出来的隐藏层的设计：分别为图像特征增强的卷积层，数据减缩的子抽样层和两个激活函数层：【1】卷积层设计：信号的卷积运算是信号处理领域中最重要的运算之一其特点是通过卷积运算可以使原信号特性增强并且降低噪音这其中最重要的两点莫过于拉普拉斯卷积核和Sobel卷积核【2】子抽样层设计：利用图像局部相关性的原理，对图像进行子抽样，可以减少数据处理量同时保留有用信息【3】激活函数层：本层分为两层激活函数层，一层为通过与抽样层输出的四个图像分别进行全连结，得到四个中间输出。第二层为有四个中间结果连接的四个激活函数并与输出层连接，得出网络判断的结果【4】激励函数的选择：网络的拓扑结构和训练数据确定后，总误差函数就会完全由激励函数决定了，因此，激发函数的选择对网络的收敛性具有很重要的作用上述完成后就需要认识熟知卷积网络的训练并要学会人脸样本的收集。此外随着科技的发展，卷积神经网络对脸部的识别和检测还有我们熟知的基于分流抑制机制的卷积神经网络人脸检测法、增长式卷积神经网络及其在人脸检测中的应用等等方法综述与总结卷积神经网络人脸检测技术有着广阔的前景，未来的工作是进一步挖掘他的潜力，使它能处理带有更多信息的复杂图像，进一步提高算法准确性和效率并尽可能使其应用于相关产品开发。但另一方面在人脸检测技术尚未达到完全成熟的今天，系统设计的作用非常突出，良好的系统设计可能达到事半功倍的效果，而拙劣的系统设计可能会葬送最好的核心算法的前途。一个实用的人脸检测应用系统能否有良好的识别性能当然主要依赖于核心识别算法的性能，但系统设计是否合适同样在很大程度上影响着应用系统的成败，尤其在目前情况下，人脸检测·技术并非成熟技术还面临着许多诸多关键问题的挑战，系统设计的作用更加突出，鉴于此，督促着我们这一辈更加的要好好学习，掌握知识让科技改变命运参考文献【1】卢春雨人脸自动识别若干问题研究与系统实现清华大学北京1998【2】卢春雨张长水闻方等基于区域特征的快速人脸检测法清华大学学报（自然科学版）1999.39（1）：101-105【3】粱路宏艾海洲何克忠基于多模版匹配的单人脸检测，中国图像图形学报1999，4A（10）：823-830【4】刑盺汪孔桥沈兰荪基于器官跟踪的人脸实时跟踪方法电子学报2000，28（6）：29-31【5】刘明宝高文彩色图像的实时人脸跟踪方法计算机学报1998，21（6）：527-532【6】Martin.T.Hagan,HowardB.DemuthandMarkH.Beale.神经网络设计：机械工业出版社，2002【7】孙宁人脸检测综述【j】电路与系统学报2006.11（6）：104-108【8】白润才李建刚郭旭颖基于图形用户界面的BP神经网络建模与仿真系统仿真学报2005，17（11）：2825-2827