当今社会基于人工智能和计算机视觉的图像处理算法日新月异,使用深度学习进行行人检测已经成为了当下的研究热点。然而在密集场景下行人目标存在一定程度上的遮挡问题,制约了经典深度学习检测方法的发展。为此,本文对基于深度学习的密集行人检测进行研究,有效的提高了密集场景下的行人检测性能。本文的工作内容可以归纳为以下几点:第一,针对原始YOLO v3特征提取能力不足而导致的漏检问题,提出了基于YOLOv3的改进网络模型YOLO-VAS。主要改进点包括:1)首先通过改进特征提取网络并引入高效注意力机制,增强网络对于重要信息的提取能力;2)在特征融合阶段加入改进的SPP模块,实现局部特征和全局特征的融合,丰富最终特征图的表达能力;3)针对检测目标为密集行人这一特点,基于特定的行人数据集,使用K-means均值算法对anchor box进行重新聚类,得到9个新的anchor box;4)改进原网络的边界框回归损失函数,降低漏检率的同时加速模型的收敛;5)针对原始候选框筛选算法NMS进行改进,有效的降低了密集场景下的行人漏检率;6)最后,通过一系列的数据增强策略,丰富了数据集的多样性,提高模型的泛化能力。实验结果表明,相对于原YOLOv3网络,改进后的YOLO-VAS模型可以有效的改善密集行人场景下的检测性能。第二,在YOLO v3的简化版模型YOLOv3-tiny基础上做网络结构上的改进,设计轻量化模型。1)改进的加入高效注意力机制的廉价运算使用很少的参数生成了更多的特征图;2)针对原网络对于小目标行人的漏检问题,通过增加一个预测尺度的方式,提高模型对于小目标行人的检测能力。实验结果表明,改进后的网络在实时性较高的前提下,可以进一步提高检测精度。