随着社会的发展以及ATM机的装机量不断攀升，对ATM机的安防性能提出了更高的要求。为了增强ATM机监控系统的智能化，针对银行ATM机监控系统设计了可应用于ATM机的异常人脸检测系统，以实现监控系统的前端异常检测的分析报警功能。在第一部分主要是视频图像的预处理阶段。此处的预处理指的是为本文下一部分的研究所作的准备，主要包括图像质量增强和背景建模分割前景。在图像增强过程中，本文在分析已有方法的基础上，针对监控视频图像的随机性和光照复杂性等特征，提出了一种改进的图像增强算法，并取得了有一定价值的实验结论。在背景建模过程中，本文采用连通域滤波的方法对图像前景进行处理以达到消除干扰的目的。第二部分为本文的核心部分，即异常人脸的检测算法研究。为了便于检测，本文将人脸区域分为眼部区域和嘴部区域两部分以提高检测的速度和准确度。在眼部的异常检测中，本文训练了基于Haar特征的人眼分类器，利用该分类器对人眼区域进行搜索。而在嘴部区域的异常检测中，本文采用的是基于Hough变换的水平直线检测结合分类器搜索的方法。在第三部分设计了基于VC6.0的异常人脸检测系统平台。该检测系统是在算法研究基础上实现的。在VC6.0下快速建立的基于MFC的界面，在该界面下实现异常人脸检测系统的各项功能。