随着人脸识别技术被广泛应用于各种身份认证场景,表示攻击作为人脸识别中的一大安全挑战在近几年引起各界极大重视。常见的人脸表示攻击大类有照片攻击、视频攻击和面具攻击,尽管现有的人脸表示攻击检测方法在实验室测试阶段有较高准确率,但其在复杂实际场景下的泛化性能仍待进一步优化,基于此,本文的主要工作如下:针对实际场景中潜在的未知人脸表示攻击类型使人脸表示攻击检测算法性能下降的问题,本文提出基于LBP-VAE（Local Binary Pattern-Variational Auto-Encoder）异常检测模型的人脸表示攻击检测方法,该方法在训练阶段对真实人脸样本的color-LBP特征使用VAE网络进行概率建模,在测试阶段根据LBP-VAE异常检测模型对人脸样本的color-LBP特征重构误差来区分真实人脸和攻击人脸。由于攻击人脸样本类内不同攻击类型样本的特征分布有差异,在训练阶段对有限攻击类型的攻击人脸样本进行特征学习会导致模型难以泛化到未知攻击类型,本文提出的算法在训练阶段只需要真实样本并且仅对真实人脸样本进行建模,不需要任何攻击人脸样本参与训练,对多种未知的攻击类型有更好的泛化性能,更适合现实场景。针对实际场景中多种客观变量（光照、攻击载体材质、人脸采集设备）变化使人脸表示攻击检测算法性能下降的问题,本文提出基于全尺寸深度图监督的人脸表示攻击检测方法,该方法利用真实人脸与平面攻击人脸的人脸深度信息差异来建模,训练阶段监督标签为与训练人脸图片相同宽高的全尺寸人脸深度图,采用基于Dense-FCN（Denset Net-Full Convolutional Network）的网络实现密集的全尺寸人脸深度图预测,最后根据预测深度图的平均深度值来区分真实人脸和平面攻击人脸。本文提出的算法利用全尺寸深度图标签监督建模,并结合人脸样本的多层次特征图来预测人脸深度图,使网络模型充分挖掘出更具有判别力、更鲁棒的特征,在面对多种客观变量同时变化的复杂场景中表现出更高的准确率和稳定性,具有更优的泛化性能。最后,本文分别在CASIA-FASD、Replay-Attack、MSU-MFSD、OULU-NPU四个数据集上对比所提出算法与现有算法的性能表现,以验证本文所提出算法的有效性。