轻量化高精度人脸识别关键技术研究

来源 :国防科技大学 | 被引量 : 1次 | 上传用户:kyuiyigjghj
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
身份认证在信息时代有着重要的地位,被广泛用于金融、考勤、门禁、安防等众多领域。区别于传统的身份认证技术,利用人体所固有的生物特征或者行为特征等信息进行身份认证对于使用者而言,更为便捷、安全、可靠且难盗取等优点。作为人体固有的诸多生物特征中最为自然和主要的特征,人脸是人类在日常生活中辨别不同人员最主要的依据。由于其易操作、非侵犯性、非接触性、结果直观等优点,人脸识别是生物特征识别领域长久以来的研究热点。近年来,尽管受益于计算机算力的巨大提升、数据的海量增长和深度学习算法的不断创新,人脸识别技术得到了极大的提升并在越来越多的场景进行落地,然而,人脸识远非一个已经解决的问题。一方面,识别准确率的数量级式提升不断地拓展着人脸识别技术应用的边界,推动其在越来越多的应用场景进行落地,而应用边界的不断拓展对人脸识别的精度和规模提出了更高的要求。另一方面,尽管基于深度神经网络的人脸识别相对于其它方法有着巨大的性能优势,巨大的计算开销也是制约其更广泛应用的主要因素。如何在提升准确率的同时降低深度神经网络计算和存储开销,是人脸识别领域非常重要且颇具挑战的问题。本文就如何对人脸识别系统进行轻量化的同时提升识别精度这一问题开展了如下研究工作:(1)提出了一种基于相关一致性约束的知识蒸馏方法(correlation congruence for knowledge distillation,CCKD),来提升轻量化人脸识别网络的精度。CCKD在单样本层面的知识蒸馏基础上,增加了不同样本间的相关一致性约束,让学生网络学习教师网络学到的样本间的相关一致性知识,来提升学生网络的性能。研究了不同相关性度量方法的影响,并提出了基于高斯核函数的泰勒展开来建模相关性的方法。此外,研究了不同的小批量数据采样方法对于相关一致性知识蒸馏的影响。通过在图像分类数据集CIFAR-100和ImageNet-1K、行人重识别MSMT-17数据集和人脸识别测试集MegaFace的实验,验证了 CCKD能有效提升学生网络的性能。(2)提出了一种基于教师网络参数空间内优化路径约束的知识蒸馏方法(knowledge distillationv via route constrained optimization,RCO),来缩小人脸识别轻量化网络和复杂网络之间的性能差距。以往的知识蒸馏方法都只将收敛状态的教师网络作为学生网络的学习目标。受到课程学习启发,RCO利用教师网络参数空间中的优化路径构造了一个从易到难的目标序列,来指导学生网络的训练过程。RCO旨在使得学生网络能更加逼近收敛状态下的教师网络,达到一个更好的局部最优点,来缩小学生网络和教师网络的性能差距。研究了不同目标序列的构造策略,并提出了一种基于贪心策略的课程学习目标序列构造方法,来缩短学生网络的学习时间同时提升其性能。通过在CIFAR-100、ImageNet-1K和MegaFace数据集上的实验,验证了 RCO提升学生网络性能的有效性。(3)提出 了一种选择性知识蒸馏方法(selective knowledege distillation,SKD),来降低轻量化人脸识别网络的学习难度,提升其性能。从教师网络的知识表示形式来看,以往的知识蒸馏主要着眼于探索除logits之外的表示形式,如注意力图[3]、特征表达[4]样本间相关性[5,6]等。这类方法的本质都是将教师网络的所有知识视作完全正确的知识,迫使学生网络对其进行学习。SKD根据学生网络的学习能力来动态选择性地选取教师网络中置信度较高的知识,摒弃置信度较低的知识,显著提升了轻量人脸识别网络的性能。此外,详细介绍了基于SKD方法获得的亚军的ICCV国际会议轻量级人脸识别挑战赛方案。(4)针对基于视频(或模板)的人脸识别系统中低质量图像极大影响系统性能这一问题,提出了一种面向识别的无参考人脸图像质量评价方法用于从多帧图像中选择高质量图像进行识别。该方法将人脸图像质量评价和人脸识别进行关联,无需手工或半手动去选定用参考图像或标注质量分。在此基础上,设计了一种简单而快速的方法来生成大量带有质量标签的数据集。研究了不同网络大小对于人脸图像质量评价性能的影响,并提出了一个高效的极小深度网络(tinyFQnet)。通过在基准测试集IJB-B、IJB-C和YTF的实验,验证了所提出方法的有效性。(5)提出了一种基于特征空间内几何信息的多帧图像特征融合方法(geometry-guided feature aggregation,GFA)。以往对于多帧图像的特征融合方法主要基于每一帧的重要性,忽视了多帧图像在特征空间内的几何关系,可能导致融合后的特征趋向密度大的区域而非更具判别性的分布中心位置。GFA首先将每一帧的几何信息定义为该帧和对应类别的参考图像在特征空间内的余弦距离,通过训练一个深度神经网络来预测每一帧和参考图像的余弦距离。然后,基于该几何信息,GFA将多帧图像特征融合问题转化为一个二次规划问题。通过求解该二次规划问题来获得每一帧图像的权重,并最终根据该权重进行融合,得到更具判别性的融合后的特征。通过IJB-A和YTF数据集的实验,验证了 GFA方法的有效性。
其他文献
光纤激光器是实现高功率、高亮度激光输出的重要技术之一,它具有结构紧凑、转换效率高、光束质量好、管理维护方便等众多优点,已成为工业加工、材料处理、生物医疗、国防安全、科研实验等各个领域的热门选择。近年来,随着半导体和光纤制造工艺的发展以及光纤激光技术研究中不断被提出的新结构、新方案,光纤激光器的输出功率得到不断提升。同时,一些制约因素如热效应、非线性效应、光损伤和模式不稳定现象,也随着功率的提升不断
学位
作为中纬度海气相互作用最为剧烈和复杂的区域—黑潮延伸体KE(Kuroshio Extension)附近海域,它具有中纬度海气相互作用所有复杂的过程和特征。KE具有的多尺度海洋状况与大气间的相互作用,造成大气具有从天气尺度瞬变涡旋的高频变化到月尺度和季节尺度低频变化等多种不同尺度的响应特征。本文重点研究了KE不同尺度海温异常对冬季期间风暴轴和大尺度环流异常的影响,充分探讨了其中的可能机制,这对加强对
学位
现代雷达不仅需要更远的探测距离,还需要具备精细化、智能化的信息处理能力,以满足空间监视、防空反导、战场侦察、精确制导等应用对雷达极化测量精度越来越高的要求。高速导弹、新型飞行器等高动态目标带来的运动调制效应和实际跟踪问题给极化测量引入了新的误差因素,需要厘清高动态目标极化测量环节中的误差因素,构建完善的极化测量误差模型并提出相应的补偿方法。同时,由于极化测量精密性定义本身具有相对性,我们不仅需要站
学位
作为安装于高超声速机动飞行器上的典型部件,控制舵在控制飞行器姿态、提高飞行器机动性能等方面具有重要作用。然而,在高超声速气流中,控制舵诱导产生的激波与激波干扰、激波与边界层干扰、边界层分离与再附等复杂流动现象引起的局部气动加热非常严重。特别是预留有安装缝的控制舵,舵缝及舵轴的存在进一步增大了控制舵流场结构及气动加热问题的复杂性,需要重点关注。另一方面,为提高高超声速飞行器的航程和机动性,后掠翼和超
学位
目前,随着三维视频通信、云计算、5G通信和虚拟化数据中心等多种新型宽带网络应用的普及以及密集波分复用、光时分复用、多模并行光纤等新技术的迅速发展,人们对网络流量信息的需求急剧增加,对光通信网络带宽、传输距离及智能化水平等特性提出了更高的要求。通过以上技术的应用与普及,光网络所承载的数据速率越来越大,传输距离越来越长,网络结构越来越复杂,而超高符号速率和长传输距离的光网络性能很大程度上取决于链路和光
学位
多视图聚类被广泛应用于计算机视觉、自然语言处理、生物信息学、医疗图像分析等诸多领域。作为一种最主要的无监督机器学习技术,多视图聚类提供了一个从数据中学习用于聚类的最优相似度的优雅框架。然而,如何从噪声或缺失多视图数据中学习用于聚类的最优相似度仍然是一个开放性的问题。本文的工作集中于设计鲁棒的多视图聚类以提高算法的性能,其贡献可以概括为如下四个方面:1.核对齐标准近期被广泛应用于多核聚类(Multi
学位
有机-无机杂化钙钛矿太阳能电池具备优秀的光电性能,因其光电转换效率(PCE)由最初的3.8%快速提升至25.5%而备受关注。电子传输层因对钙钛矿太阳能电池的效率提升起着至关重要的作用被广泛研究。将铁电材料Pb Ti O3作为电子传输层引入到钙钛矿太阳能电池中,通过铁电材料本身产生内建电场,对光生载流子的分离提取和传输进行调控研究。太阳能电池在航空航天领域有重要应用,铁电材料在半导体元器件中也有大量
学位
致密砂岩因受沉积、成岩以及构造等因素的共同作用而具有复杂的储层特征,其岩性、物性以及“岩-电”关系具有复杂多变性,进而影响到储层的识别与评价效果。针对上述问题,论文以鄂尔多斯盆地中南部多物源汇聚区内典型代表井区的三叠系延长组长6~长7油层组致密砂岩储层为实例进行解剖,从复杂的储层特征及其测井响应出发,开展储层关键参数的测井评价方法研究。研究区长6、长7油层组内砂岩的矿物组分类型及其相对含量复杂多变
学位
高超声速边界层转捩及激波湍流边界层干扰等复杂流动现象普遍存在于高超声速飞行器高速飞行的流场中,是高超声速空气动力学领域的热点、难点问题。深入研究高超声速边界层转捩流动机理,认识激波边界层干扰的非定常特性,对有效减小高超声速飞行器的阻力、优化飞行器表面热防护的设计、提高飞行器的性能等有着重要的理论意义和工程应用价值。本文针对高超声速5°圆锥边界层转捩、高超声速后掠平板边界层转捩和激波湍流边界层干扰等
学位
高精密复杂武器装备中存在大量异质材料结构。异质材料结构热失配引起的热应力集中,破坏结构精度和动态响应性能,对精密结构产生极大的影响,造成整体性能倍数级的下降,严重制约着高精密复杂武器装备性能的提升。针对异质材料结构热失配引起的热应力集中问题,本文通过对比不同异质材料结构连接方法的热应力,确定异质材料结构热应力均匀化方法;以可调控热膨胀点阵为切入点,重点研究可调控热膨胀点阵的构型和性能,建立基于可调
学位