随着视频设备的普及和深度学习技术的发展,基于卷积神经网络的人脸检测算法被广泛地应用在教育、安防和交通等领域。由于视频采集设备和人脸自身的差异性、图像采集场景的复杂性等因素,人脸检测依然面临一些挑战。本文以实时检测为前提,从普通人脸、小人脸和低光弱人脸三个方向出发开展基于卷积神经网络的人脸检测算法的研究。首先,针对通用目标检测方法直接应用到人脸检测中存在召回率低的问题,提出了一种由粗到细的多尺度并行的网络结构,旨在通过不同尺度的网络检测不同尺寸的人脸以解决召回率的问题。同时,引入中心损失函数以缩小类内距离,从而提高算法的检测性能。实验结果表明,在典型的CelebA测试集上,该方法的检测精度接近主流方法并且检测速度具有明显的优势。其次,针对卷积神经网络难以检测小人脸的问题,提出一种基于特征增强的小人脸检测算法。通过多级网络增加小人脸的深层特征,通过特征增强模块融入小人脸的上下文信息进一步加强深层特征表达能力。同时,采用多阶段损失函数以改善由于样本不均衡造成的不同级别网络训练不平衡的问题。实验结果表明,该算法在权威人脸数据集WIDER FACE和FDDB取得了很好的结果,同时速度达到了实时的要求。最后,针对低光场景下采集图像质量不佳造成弱人脸产生的问题,提出一种基于图像增强的弱人脸检测算法。通过具有全卷积神经网络结构的图像增强算法,还原图像的颜色,恢复正常的光照强度。进一步,基于Retinex理论提出反射率损失函数以改善训练集光照不均匀的问题,优化增强网络的训练。实验结果表明,低光弱人脸经该算法增强后能够得到平滑、噪声少且真实的人脸。更重要的是,该图像增强算法与基于特征增强的小人脸检测结合后能够有效地检测低光场景下的人脸,使其更具有实用性。