随着地铁在各大中型城市的发展,它逐渐成为了城市运输的中坚力量。而这对城市的交通管理,地铁调度,运输资源的分配,以及城市的公共安全等提出了更高的要求,在此背景下,地铁的客流检测和统计就成为了提供数据支撑的关键技术。而行人检测又是客流检测等的基础关键性技术。随着计算力的发展,目前基于深度学习的目标检测算法已经较为成熟,当下流行的目标检测网络为了兼顾更多种类的场景和目标,网络层数普遍较深。而本文中的行人检测属于单目标检测,所用到的头肩样本特征也较为简单,此时深层网络则并不完全适用,会出现较大的计算冗余,导致在检测方面检测速度较慢。且在地铁行人检测中其单个目标在画面中占比较小,场景中行人密集场景较多,存在行人遮挡现象,这也会导致普通的网络框架表现力下降,出现漏检问题。经过实验表明,经过针对性改进的端到端深度学习框架在保证检测精度的情况下,能够有效提升检测速度。本文研究了地铁环境下基于端到端深度学习框架的行人检测算法。主要针对目前行人检测中由于网络冗余造成的检测速度较慢的问题,和由遮挡造成的漏检情况,对已有的典型端到端深度学习框架YOLOv3进行精简优化。具体工作的内容如下:1.针对本任务中的背景,制作地铁环境中的行人图像数据集,制作相应的训练集、验证集和测试集。并根据收集到的数据集,用K-means++聚类算法对网络检测过程中的锚框尺寸进行聚类,并通过实验改进锚框的个数。改进后的网络模型检测精度和速度有了一定的提升。2.针对行人检测中存在的实时性问题,对端到端深度学习经典网络框架YOLOv3的骨干网络进行剪枝。根据地铁行人的特征和单目标检测的特点,寻找最佳骨干网络复杂度,并简化目标检测网络部分,从而使得模型框架在确保检测精度的情况下,检测速度提升了3倍多。3.针对地铁行人检测中存在的遮挡问题,提出基于排斥损失函数的YOLOv3网络模型框架,该排斥损失函数与原损失函数进行结合,引导模型向更好的方向收敛,使得模型更适用于密集场景中的行人检测。在高性能计算平台上对网络框架进行训练及测试后,已经学习好的模型可以对地铁环境中不同场景不同角度的行人进行快速高效的检测。