随着互联网技术的迅猛发展和移动终端的广泛普及,人们对应用系统的安全性、实用性和有效性提出了更高的要求。掌纹识别技术为部署更加安全可靠的访问控制系统、加强私有信息保护以及实现高性能的身份识别提供了新的思路,成为模式识别、计算机视觉和信息安全领域的研究热点,在民生、金融、安防、刑侦和反恐等领域得到了广泛应用。近些年来,掌纹识别的应用场景从高度约束的接触式系统向移动端和互联网应用转变,由此带来了一系列的低约束掌纹识别问题。由于图像采集不限定采集环境且不限制手的方向和姿态,掌纹图像中普遍存在旋转、尺度变化、运动模糊、噪声、光线条件不佳以及图像失真等问题,因此,低约束掌纹识别面临巨大的挑战。针对此问题,本文利用深度学习技术,对低约束条件下的在线掌纹识别和警用掌纹识别进行了研究,主要包括以下四个方面:(1)提出了一种掌纹感兴趣区(Region of Interest,简称ROI)提取方法,能够适应掌纹数据采集中的光照变化、手部运动等复杂环境。为了确定最适合手部区域分割的颜色通道,利用主成分分析和皮尔逊双峰指数查找最具有判别力的颜色分量,旨在保留图像的固有色度,减弱光照对图像分割的影响。其次,利用基于学习的偏最小二乘回归算法得到原始图像与真实参考图像之间的回归系数,记录图像中手部区域的形状。再次,利用基于拓扑分析的边界跟踪算法来遍历二值图像内所有区块的外部轮廓,通过设置阈值去除干扰项,保留手的轮廓。最后,利用凸包搜索算法检测手指间的谷点(即手掌关键参考点),从而确定掌纹ROI的位置。实验结果表明,该方法能够实现较高的掌纹ROI提取正确率。(2)提出了一种融合性别先验的在线掌纹识别方法,利用性别这一“软”生物特征补充掌纹所提供的身份信息,提高掌纹识别的性能。该方法创新性地将性别特征纳入掌纹识别的决策过程,充分考虑性别特征和身份信息之间的互补性,有利于增强掌纹特征的判别力。首先,提出了两个深度学习模型,分别用于研究身份识别和性别分类子问题;其次,提出了两种不同架构的融合模型,探究不同的特征融合方式对掌纹识别的促进作用。并行架构的融合模型在训练过程中可以同步提取身份信息和性别特征,通过对两种特征进行融合得到掌纹特征表示,并自动完成掌纹特征匹配;顺序架构的融合模型通过两阶段的模型训练,按顺序依次提取性别特征和身份信息,在第二阶段完成掌纹分类。实验结果表明,该方法能够实现较高的在线掌纹识别精度,并且性别先验可以提高掌纹识别的精度,增强掌纹识别的置信度。(3)提出了一种鲁棒的非接触式掌纹识别方法,实现模糊及噪声环境下的高精度掌纹识别。针对此问题,本文提出了一种基于残差网络的半预训练掌纹识别模型,使用残差连接保留更多的图像特征并向下传递,有效地缓解了网络训练过程中的梯度消失问题。为了探究该方法的抗模糊性和抗噪性,首先在原始ROI图像中分别添加运动模糊、高斯噪声和椒盐噪声合成三种退化的掌纹图像,然后使用该退化图像验证模型的正确识别率和等错误率。实验结果表明,该方法能够实现较高的在线掌纹识别精度,而且在退化的掌纹图像上表现出较强的鲁棒性。(4)提出了一种开放环境下的端到端掌纹识别方法,通过对非线性变换的掌纹进行ROI的定位和校准,能有效应对图像变形、失真、扭曲等复杂环境。针对基于证据图像的掌纹识别问题,本文提出了一种包含多模块卷积神经网络的深度学习模型,由ROI定位和校准网络、特征提取和识别网络以及基于随机失活的网络内掌纹ROI数据扩充方案组成。该方法使用手部图像而非掌纹ROI图像作为输入,以端到端的方式完成掌纹ROI提取、掌纹特征提取和匹配。实验结果表明,该方法能够有效地解决刑事侦查领域的警用掌纹识别问题。