基于深度学习的人脸识别技术综述

基于深度学习的人脸识别技术综述简介：人脸识别是计算机视觉研究领域的一个热点，同时人脸识别的研究领域非常广泛。因此，本技术综述限定于：一，在LFW数据集上（LabeledFacesintheWild）获得优秀结果的方法;二，是采用深度学习的方法。前言LFW数据集（LabeledFacesintheWild）是目前用得最多的人脸图像数据库。该数据库共13，233幅图像，其中5749个人，其中1680人有两幅及以上的图像，4069人只有一幅图像。图像为250*250大小的JPEG格式。绝大多数为彩色图，少数为灰度图。该数据库采集的是自然条件下人脸图片，目的是提高自然条件下人脸识别的精度。该数据集有6中评价标准：一，Unsupervised；二，Image-restrictedwithnooutsidedata；三，Unrestrictedwithnooutsidedata；四，Image-restrictedwithlabel-freeoutsidedata；五，Unrestrictedwithlabel-freeoutsidedata；六，Unrestrictedwithlabeledoutsidedata。目前，人工在该数据集上的准确率在0.9427~0.9920。在该数据集的第六种评价标准下（无限制，可以使用外部标注的数据），许多方法已经赶上（超过）人工识别精度，比如face++,DeepID3，FaceNet等。图一/表一：人类在LFW数据集上的识别精度表二：第六种标准下，部分模型的识别准确率（详情参见lfw结果）续上表本文综述的人脸识别方法包括以下几个筛选标准：一，在上表中识别精度超过0.95（超过人类的识别准确度）；二，公布了方法（部分结果为商业公司提交，方法并未公布，比如Tencent-BestImage）；三，使用深度学习方法；三，近两年的结果。本文综述的方法包括：1，face++（0.9950）；2，DeepFace（0.9735）；3,FR+FCN（0.9645）；4，DeepID（0.9745）；5，FaceNet（0.9963）；6，baidu的方法（0.9977）；7,pose+shape+expressionaugmentation（0.9807）；8，CNN-3DMMestimation(0.9235，准确率没那么高，但是值得参考)。人脸识别方法1，face++(0.9950)参考文献：Naive-DeepfaceRecognition:TouchingtheLimitofLFWBenchmarkorNot?face++从网络上搜集了5million张人脸图片用于训练深度卷积神经网络模型，在LFW数据集上准确率非常高。该篇文章的网路模型很常规（常规深度卷积神经网络模型），但是提出的问题是值得参考的。问题一：他们的MegviiFaceRecognitionSystem经过训练后，在LFW数据集上达到了0.995的准确率。在真实场景测试中（ChineseID（CHID）），该系统的假阳性率（FP=10-5）非常低。但是，真阳性率仅为0.66，没有达到真实场景应用要求。其中，年龄差异（包括intra-variation：同一个人，不同年龄照片；以及inter-variation：不同人，不同年龄照片）是影响模型准确率原因之一。而在该测试标准(CHID)下，人类表现的准确率大于0.90。图1-1：在CHID中出错的样本问题二：数据采集偏差。基于网络采集的人脸数据集存在偏差。这些偏差表现在：1，个体之间照片数量差异很大；2，大部分采集的照片都是：微笑，化妆，年轻，漂亮的图片。这些和真实场景中差异较大。因此，尽管系统在LFW数据集上有高准确率，在现实场景中准确率很低。问题三：模型测试假阳性率非常低，但是现实应用中，人们更关注真阳性率。问题四：人脸图片的角度，光线，闭合（开口、闭口）和年龄等差异相互的作用，导致人脸识别系统现实应用准确率很低。因此，该文章提出未来进一步研究的方向。方向一：从视频中提取训练数据。视频中人脸画面接近于现实应用场景（变化的角度，光照，表情等）；方向二：通过人脸合成方法增加训练数据。因为单个个体不同的照片很困难（比如，难以搜集大量的单个个体不同年龄段的照片，可以采用人脸合成的方法（比如3D人脸重建）生成单个个体不同年龄段的照片）。该文章提出的方向在后续方法介绍中均有体现。2，DeepFace（0.9735）参考文献：Deepface:Closingthegaptohumal-levelperformanceinfaceverification2.1简介常规人脸识别流程是：人脸检测-对齐-表达-分类。本文中，我们通过额外的3d模型改进了人脸对齐的方法。然后，通过基于4million人脸图像（4000个个体）训练的一个9层的人工神经网络来进行人脸特征表达。我们的模型在LFW数据集上取得了0.9735的准确率。该文章的亮点有以下几点：一，基于3d模型的人脸对齐方法；二，大数据训练的人工神经网络。2.2人脸对齐方法文中使用的人脸对齐方法包括以下几步：1，通过6个特征点检测人脸；2，剪切；3，建立Delaunaytriangulation；4，参考标准3d模型；5，将3d模型比对到图片上；6，进行仿射变形；7，最终生成正面图像。图2-1人脸对齐的流程2.3深度神经网络图2-2：深度神经网络2.4结果该模型在LFW数据集上取得了0.9735准确率，在其它数据集比如SocialFaceClassification(SFC)dataset和YouTubeFaces(YTF)dataset也取得了好结果，详情请参见原文。3，FR+FCN（0.9645）参考文献：RecoverCanonical-ViewFacesintheWildwithDeepNeuralNetworks3.1简介自然条件下，因为角度，光线，occlusions（咬合/张口闭口），低分辨率等原因，使人脸图像在个体之间有很大的差异，影响到人脸识别的广泛应用。本文提出了一种新的深度学习模型，可以学习人脸图像看不见的一面。因此，模型可以在保持个体之间的差异的同时，极大的减少单个个体人脸图像（同一人，不同图片）之间的差异。与当前使用2d环境或者3d信息来进行人脸重建的方法不同，该方法直接从人脸图像之中学习到图像中的规则观察体（canonicalview，标准正面人脸图像）。作者开发了一种从个体照片中自动选择/合成canonical-view的方法。在应用方面，该人脸恢复方法已经应用于人脸核实。同时，该方法在LFW数据集上获得了当前最好成绩。该文章的亮点在于：一，新的检测/选择canonical-view的方法；二，训练深度神经网络来重建人脸正面标准图片（canonical-view）。3.2canonicalview选择方法我们设计了基于矩阵排序和对称性的人脸正面图像检测方法。如图3-1所示，我们按照以下三个标准来采集个体人脸图片：一，人脸对称性（左右脸的差异）进行升序排列；二，图像锐度进行降序排列；三，一和二的组合。图3-1正面人脸图像检测方法3.3人脸重建如图3-2所示，深度神经网络包含三层。前两层后接上了maxpooling；最后一层接上了全连接层。于传统卷积神经网络不同，我们的filters不共享权重（我们认为人脸的不同区域存在不同类型的特征）。第l层卷积层可以表示为：图3-2深度神经网络最终，经过训练的深度神经网络生成的canonicalview人脸图像如图3-3所示。图3-3canonicalview人脸图像4，DeepID（0.9745）参考文献：DeepID3:FaceRecognitionwithVeryDeepNeuralNetworks4.1简介深度学习在人脸识别领域的应用提高了人脸识别准确率。本文中，我们使用了两种深度神经网络框架（VGGnet和GoogleLeNet）来进行人脸识别。两种框架ensemble结果在LFW数据集上可以达到0.9745的准确率。文章获得高准确率主要归功于大量的训练数据，文章的亮点仅在于测试了两种深度卷积神经网络框架。4.2深度神经网络框架图4-1两种深度卷积神经网络框架5，FaceNet(0.9963)参考文献：FaceNet:AUnifiedEmbeddingforFaceRecognitionandClustering5.1简介作者开发了一个新的人脸识别系统：FaceNet，可以直接将人脸图像映射到欧几里得空间，空间的距离代表了人脸图像的相似性。只要该映射空间生成，人脸识别，验证和聚类等任务就可以轻松完成。该方法是基于深度卷积神经网络，在LFW数据集上，准确率为0.9963，在YouTubeFacesDB数据集上，准确率为0.9512。FaceNet的核心是百万级的训练数据以及tripletloss。5.2tripletloss图5-1tripletloss示意图5.3深度卷积神经网络采用adagrad优化器，使用随机梯度下降法训练CNN模型。在cpu集群上训练了1000-2000小时。边界值α设定为0.2。总共实验了两类模型，参数如表5-1和表5-2所示。表5-1CNN模型1表5-2CNN模型26，baidu的方法参考文献：TargetingUltimateAccuracy:FaceRecognitionviaDeepEmbedding6.1简介本文中，作者提出了一种两步学习方法，结合mutil-patchdeepCNN和deepmetriclearning，实现脸部特征提取和识别。通过1.2million（18000个个体）的训练集训练，该方法在LFW数据集上取得了0.9977的成绩。6.2multi-patchdeepCNN人脸不同区域通过深度卷积神经网络分别进行特征提取。如图6-1所示。图6-1multi-patch示意图6.3deepmetriclearning深度卷积神经网络提取的特征再经过metriclearning将维度降低到128维度，如图7-2所示。图6-2metriclearning示意图7,pose+shape+expressionaugmentation（0.9807）参考文章：DoWeReallyNeedtoCollectMillionsofFacesforEffectiveFaceRecognition7.1简介该文章的主要思路是对数据集进行扩增（dataaugmentation）。CNN深度学习模型，比如face++，DeepID，FaceNet等需要基于百万级人脸图像的训练才能达到高精度。而搜集百万级人脸数据所耗费的人力，物力，财力是很大的，所以商业公司使用的图像数据库是不公开的。本文中，采用了新的人脸数据扩增方法。对现有公共数据库人脸图像，从pose，shape和expression三个方面合成新的人脸图像，极大的扩增数据量。在LFW和IJB-A数据集上取得了和百万级人脸数据训练一样好的结果。该文章的思路很好，很适合普通研究者。7.2pose+shape+expression扩增方法一，pose（姿态，文章中为人脸角度，即通过3d人脸模型数据库合成图像看不见的角度，生成新的角度的人脸）。首先，通过人脸特征点检测（faciallandmarkdetector），获取人脸特征点。根据人脸特征点和开放的Basel3Dfaceset数据库的人脸模板合成3d人脸。如图7-1所示。图7-1pose（角度）生成示意图二，shape（脸型）。首先，通过Basel3Dface获取10种高质量3d面部扫描数据。再将图像数据与不同3d脸型数据结合，生成同一个人不同脸型的图像。如图7-2所示：图7-2不同脸型生成示意图三，expression（表情，本文中，将图像的张嘴表情替换为闭口表情）。采用中性嘴型将图像中的开口表情换位闭口表情。如图7--3所示。图7-3不同表情（开口/闭口）生成示意图7.3模型及训练方法文章模型采用的ILSVRC数据集上预训练的VGG-19