复杂背景中的人脸检测被广泛的应用于人脸识别、视频检索及人机交互等领域,是计算机视觉与模式识别研究的热点之一。由于姿态、光照、噪声以及遮挡物等因素的存在,给工程设计中的人脸检测造成了极大困难。如何能快速而准确的检测到人脸,非常的具有挑战性。支持向量机(Support Vector Machine,SVM)基于统计学习理论,能够有效的解决小样本学习问题。但在实际计算中,SVM存在很多缺点,如计算复杂度高、支持向量多、训练速度慢等。这些缺点也导致单纯SVM人脸检测系统的检测时间特别漫长。而基于贝叶斯框架下的相关向量机(Relevance Vector Machine,RVM),可以弥补这些不足。本文的主要工作是对人脸检测算法进行研究,在对基于SVM的人脸检测算法进行分析总结之后,发现此类算法的检测率高,但检测速度较慢。针对此问题,本文提出了一种基于RVM和SVM相结合的人脸检测算法。该人脸检系统由三层分类器构成,最简单的平均脸模板匹配作为第一层分类器,可以快速过滤掉大量简单的背景窗口,极大的加快检测速度。而精度较高的RVM作为第二层分类器,在保证人脸窗口全部通过的前提下,过滤掉几乎所有的背景窗口,而精度最高的非线性SVM只要确认这些少量的窗口即可。这种由粗到精的设计,可以充分利用平均脸模板匹配的高速度,SVM的高精度,以及RVM较高的速度和精度。MATLAB仿真实验表明,前两级分类器过滤掉近99%的背景窗口,只有约1%的窗口需要SVM确认,该算法不仅可以极大的提高检测速度,还能降低错误报警数,提高检测率。