行人检测是计算机视觉领域中的一个重要分支,主要是指从图像中寻找行人目标并确定其位置。人群密集场景下的行人检测是一项具有挑战的工作,对于现有的行人检测算法难点主要包括目标密度高并存在自遮挡,导致损失函数回归的边界框位置不准确;检测框架后处理的硬筛性,造成了目标的漏检和误检,致使在密集场景下行人检测精确度较低。近年来,随着计算机硬件及人工智能技术的飞速发展,基于深度学习的目标检测算法在检测精度方面获得了优异的表现,并被广泛应用于智能无人驾驶、区域安防监控、智能交通等诸多场景中。为解决上述问题以及满足检测框架在工程中的应用,本文以基于深度学习的端到端的目标检测算法YOLOv3为基础,主要研究工作如下:1.文章将多目标检测的YOLOv3算法作为检测框架,鉴于卷积神经网络中的浅层特征与深层特征之间存在差异,不同特征层对应的感受野也不同,深层特征图中包含大量语义信息,浅层特征图中包含较多几何信息,为避免不同深度的特征图之间直接拼接造成的误差,本文提出了p-YOLOv3网络。网络中采用“131”的卷积结构对浅层特征进行特征提取与重组,再将经过卷积结构的特征与深层特征进行拼接,而后将原检测网络进行裁剪,最终提取了目标行人有效的特征信息。实验结果表明,在行人检测数据集中p-YOLOv3网络架构比原网络更具优势。2.目标检测为获得目标的准确位置信息,在模型训练中,设置了合理的损失函数使得预测框靠近真实目标框。但在密集场景下,真实框密度较大,框与框之间存在影响。为了使预测框靠近匹配的真实框,并且远离周围其他真实目标框。本文在YOLOv3的损失函数中加入排斥力损失,在模型训练时,当预测框靠近周围其他未匹配的真实框时加以惩罚,并设置了未匹配的真实框的选取策略。实验证明加入排斥力后的损失函数有助于边界框回归,进而提高了检测网络在密集人群中的检测性能。3.在目标检测网络的后处理部分,对于置信度较高的预测框,仅通过计算与最大置信度的预测框的重叠度来判断是否保留该预测框,这样进行预测框滤除的方法对密集场景下的行人检测十分不利。为保留有效预测框,本文改进了后处理机制,使用GIOU判断两个预测框之间的相似度,并对相似度高的且将被滤除的预测框进行二次筛选。二次筛选主要是计算预测框之间的距离,通过比较该距离与距离阈值的大小,决定预测框的去留。实验数据表明改进的后处理方式能有效保留真实目标的预测框,提高检测模型的平均精确率。