随着智能交通系统技术的发展,在城市交通环境下通过深度学习技术检测行人和车辆是智能交通系统最基础的组成部分,能保证行人和车辆的安全,在一定程度上避免交通事故的发生。但行人和车辆检测技术仍存在一系列问题:城市交通环境复杂度高、行人和车辆检测速度慢无法满足实时性要求、行人和车辆检测精度低等。鉴于此,本文先研究网络模型轻量化,通过对Tiny YOLOv3网络优化改进,提出一种轻量级行人和车辆检测算法,在保持网络检测精度的情况下,使模型变小,加快检测速度。然后再从提高模型的检测性能角度出发,对特征提取层、预测层和非极大值抑制算法进行优化,以提高密集行人和车辆检测精度。主要研究工作如下:1、数据集处理,采用自动驾驶相关公开数据集KITTI,针对本文主要的检测目标行人和车辆,通过简单处理将标签分为三类:Car、Pedestrians和Cyclists。2、基于Bottle Neck、组卷积和深度可分离卷积设计两种轻量化的卷积结构分别为:改进的Bottle Neck和DPRConv,能够降低网络的参数量并且在一定程度上丰富提取的特征。3、提出轻量级检测网络Lite YOLOv3,在Tiny YOLOv3特征提取网络中,采用卷积替代池化进行下采样,避免网络特征信息的损失。然后使用改进的Bottle Neck替换Tiny YOLOv3网络第9层,DPRConv替换第11、12、14、18层,能够进一步降低网络的参数量,满足行人和车辆检测实时性需求。4、特征增强路径,在Lite YOLOv3网络中使用的特征金字塔结构中加入特征增强路径,保证浅层的信息更多地保留,提升小目标的检测能力,从而提高Lite YOLOv3的检测性能。5、预测分支解耦,通过对Lite YOLOv3的检测头进行解耦,分别预测行人和车辆的分类和定位信息,同时在预测定位分支中添加Io U分支,使得定位更加准确。预测分支解耦能够加快模型的收敛速度,同时也能提升模型的性能。6、DS NMS算法,在KITTI数据中存在较多密集行人和目标,为了降低密集目标的漏检率,结合DIo U NMS和Set NMS两者的优势,提出DS NMS算法,加入检测框中心点距离和单个检测框预测一个集合的目标,能够保证模型筛选出最佳检测框,提高密集行人和车辆检测精度。