人脸识别中AlexNet网络设计和改进方法研究.docx

卷积神经网络的设计1.1 AIexNet在人脸识别领域的应用A1.exnet网络利用Re1.U激活功能作用于每个卷积层和完全连接层，并且局部响应归一化层连接在第一个卷积层和第二个卷积层之后。卷积1层，卷积2层和卷积5层的输出上均与最大池化层相连接AIexNet（后文称为原网络）的基本架构如图1所示.本设计使用OR1.人脸数据库的新卷积神经网络结构模型进行训练；对于训练过程中发生的过拟合问遂，Hinton提出了"Dropout"方法，即在网络学习的时候以固定的（概率W0於PWI）,通常设苦为0.5,再把输入层或者隐藏层的神经元输出设首为0,这个神经元没法连续正向传播和误差反向传播，但在测试时，p乘以输入层或者隐层的神经元输出作为该层的输出.由于网络中每个输入图像神经元被随机设置为0,因此翕要要求图像中最基本的特征是由隐藏层神经元提取，采用"Dropout”解决过拟合问题。1.2 AIexNet的改进本文网络的模型结构如图2所示.5-图2本文网络的结构图（1）用7x7和5x5的两个小卷积核替代原来的11x11的大卷积核，为了保证原结构maxpoo1.1.（第一最大池化层）的输出不发生变化，ConvM（第一卷积层的第一卷积核）、Conv1.-2（第一卷积层的第二卷积核）个数保持不变，并对其进行补充操作.后面的模型结构图和原网络相同，原来的FC8层变为FC7层，具体参数如表1所示.表1ConV1.-1和Conv1.-2日体益数积I层卷积核卷积核个数Krmr1.sizc>a<1.strideCofn1.-I96702(x>nvI-2965I2（2）在激活函数与池化层之间删除1.RN层.（3）本文网络模型减少了1层（FC7层），第一层变为两个小卷积模块形式.其中改进层具体参数变化如表2所示.表2JK1.i1.It和本文网络血比*m塔中m,tMn>1：II1.I1."II«H7：IOMM4rw-167721*1.3人脸图像的预处理人脸原图片的尺寸是112X92,标准化变为256x256的人脸，就可以随机在标准化后的图片上裁剪一个227x227的图像来训练，并横向的进行翻转、平移等一系列的操作来拓展数据集大小.OR1.人脸数据库的样例如图3所示.S3ORI人版数据霹样例对OR1.数据库做以下处理：(1)将数据库中的训练集、验证集、测试集的比例设置为3:1:1,然后再把OR1.中图片标准化大小，如图4所示，经CvResize函数将原图112x92标准化256x256.S4人险标准化过程(2)将训练集、验证集、测试集的40个人分别分为40类制作标签，放到40个编号039的文件夹内.(3)制作标签txt文件.(4)转换Imdb格式的数据集。(5)训练集均值文件.至此，人脸图像的预处理结束。2网络的训练和测试本文利用批量随机梯度下降的方式，准确率提升得更快.对于OR1.人脸数据库原网络和本文网络的网络训练，最大迭代次数均为10OoO,批处理图片大小分别为4个和8个，动量均为09常数因子均为0.1（本实验由于最大迭代次数和步长设皆相同，所以此参数可以忽略），初始权值均为0.0005,步长均为10Oc）O,初始学习速率均为0.0001,均为训练1次测试一次，训练1000次存储一个模型.每次训练网络，更新的参数都会遍历它的批处理量.更新公式为：p/=-7（）/>,（I）wti其中：H表示更新前的权值，叫“表示更新后的权值，<表示动量，四口表示初始学习速率，/表示步长，门'，"表示第/批图像O的误差对呜偏导的平均值.3实殴与结果分析AIexNet网络和本文网络通过迭代次数找到最适合OR1.人脸数据库的网络模型.本设计的测试集的识别率只是通过网络模型测试人脸数据的优劣性，最终的识别率是全部样本的识别率。同时通过比较各个集合的损失值得出网络模型在保留尽可能多的人脸信息的前提下保证其识别率的准确性.3.1 卷积神经网络的人脸识别AIexNet网络的迭代次数取为1OOO10OOO),本文网络的迭代次数取为(100O10000)用这些模型进行人脸识别的测试来比较它们的损失值和识别率.图5表示出对应于OR1.中的原网络和本文网络的迭代次数的训练集成本函数损失.ES原网络和本文网络训练集损失曲线由图5可以看出本文网络只有在迭代2000、3000、3500、4000、4500、4800、9400、9600次的时候训练集损失的值要比改进前的网络高，其余的时候远远低于原网络，最后趋于零达到平稳.图6显示于OR1.中原网络和本文网络的迭代次数的验证集成本函数损失100O200)300040005000MX1.O7000(MMX)900010000迭代次费2IJO.:st三w出*KEZWS*Z*3*玄江£图6IS网蜡和本文网络教证集报失曲线由图6可以看出验证集本文网络在迭代1000次、2200次、9500次、9700次的时候损失值比原网络损失值高，其余的时候均比原网络损失值低，最后趋于零达到平稳。图7显示了对应于OR1.中原网络和本文网络的迭代次数的测试集成本函数损失。三7原网培和本文网培测成集损失曲段由图7可以看出本文网络下降的速度比原网络下降的快，在迭代5OOO次之后，基本趋于稳定，虽然在迭代8000-9500次的时候损失值略高于原网络，但是原网络的损失值一直在上下JS荡,最后本文网络的损失值收敛在0.1附近.图8显示了OR1.中原网络和本文网络的迭代次数样本集成本函数损失.I(XM)2000WOO4010Sf1.OOMXW7000SOOO900100OO为代次ftB98JK网络和本文网络“本注（失图8和图7的曲线类似，不同的是图8的样本集损失值一直处在原网络的下方，最后样本集的损失值也收敛在OJ附近。图9显示了OR1.人脸数据库中原网络和本文网络迭代次数训练集的准确率。K9网络和本文Wmw1.*MM的相一率线由图9可以看出本文网络验证集对训练集的准确率的上升速度比原网络快.并且在迭代6OOO次之前都是稳步上升的，而迭代6000次之后原网络上下强烈震荡，木文网络减小了震荡，在97.5%的时候趋于平稳。图10显示了OR1.人脸数据库原网络和本文网络迭代次数中每次迭代的测试集识别率。K)JKPI络和本文网第,心仅JN率Rt1.由图10可以看出在迭代6000次之前，原网络和本文网络对测试集的识别率均稳步上升，其中原网络识别率最高为97.5乳而本文网络识别率最高为98.75%,但在迭代6000次之后原网络发生强烈震荡，本文网络也略微下降，在迭代8000-9200次的时候略低于原网络测试集的识别率，本文网络随后继续上升直到识别率为96.251.的时候趋于稳定。图11显示了OR1.原网络和本文网络迭代次数的样本集识别率。R11原用络和本文网络样本集WN不t图U和图10基本相似，不同的本文网络的样本集识别率几乎一直在原网络样本集识别率之上（除r迭代900010OOO次）.其中，原网络对样本集的嫌高识别率为98.75%,本文网络对样本集的最高识别率为9驶。原网络和本文网络时全部样本的识别率分别在98.5%和9&75*达到平衡。综上所说，本文网络损失曲线和识别率曲线要比原网络损失曲线和识别率曲线震荡减小电于平桎,达到的实践效果更好.测量对了相应的人脸数据库训练集和测试集的每个模型的正确识别率，结果如表3、表4所示。衰3A1.exNetH*OR1.人IkH率的正识别率（»）nat_5_100(1"2(1X1JUtjooo-fJomSaa1.Jer«.6OOnJW.7TOJ1.rVjInon_EC(XIIw.umoM1.W6%S1.S3*125口）95%2597,陶伏双膝ISNATX”“5913SS95WM1.H奉17T1“25WQS9571n.sW7S衰4本文网第OR1.人19据启的正惧别率.><.''>.M.4W>>OT.<0OIGgJWjg,v.*M.'m>evr>o11m19S299175ti1.9s”IS4，t73SS227S311»5ft”«9WW“2S«.5MX由上述表格的数据得到，原网络最佳的模型A1.eXNe1.网络的iter_9000：本文最佳的网络模里本文网络的itej6000;本文人脸的识别率是以测试集的识别率为准，本文网络的人脸识别率比原网络高1.25%,在一定程度内能提高识别率的收敛速度。3.2 A1.exNet网络的模型和本文网络的模型与其他算法的比较传统人脸识别算法的识别率如表5所示。衰5倍就算法OR1.人IwH启的正SiRjN率(»)数据集EigenFaceFisherFace1.EPHFace训练、验证96.259X7590.0测试9X7593.7591.25全部样本98.097.596.25»6A1.exNet网络和本文网络与用于OR1.4的其他算法的比较识别方法正确识别率/(%)EigenFace93.75Fish<rFa<93.75I.BPHFace91.25A1.exNet9(XX)次迭代97.5本文网络6OOO次迭代98.75A1.eXNe1.网络结构模型对OR1.人脸数据库的识别率是97.5%,样本识别率是98.75%o而本文网络结构模型对OR1.人脸数据库的识别率达到98.75%,样本识别率是991。表6是本文设计的网络与传统莫法在OR1.人脸数据库识别率的对比。从中可以得出结论，本文所设计的网络对OR1.人脸数据库中的识别率提高1.25%,样本识别率提升0.25%。3.3实验总结本文提出r一个7U网络应用丁Ori.人脸数据库的人脸识别,提高rAIeXNet网络中的超参数的批处理量，在迭代次数很小的时候就达到饱和程度,发现训练的收敛程度更快，验证的准确率更高。从训练集、验证集、测试集的损失曲线可以看出本文网络损失更少，并且训练出的模里测试人腌的识别率为98.75%（比原网络提高1.25%）,所有样本的识别率可以达到99%（比原网络提高0.25%）,人脸识别的准确率相对有所加强。同时对人脸数据的损失值和识别率曲线的振荡问题进行了改进，结果趋稳定.4结语随着深度学习的热潮和人工智能的推进，人脸识别的应用已经进入各行各业，而对人脸识别的准确性也将成为一个探究的课题“本文针对八IeXNCt网络方法的参数训练过程提出了新型网络算法，经试验证明有优良的性能，它逐层的准确度匹配程度也得以逐渐加快，从而达到识别结果精确.