随着我国经济的快速发展,汽车总量急剧增加,原有的交通监管系统相对滞后。如何建设一套适合新形势的、完善的、智能和精确的交通监管系统,成了亟待解决的问题。交通监管系统综合应用了各种重要的技术,其中车辆目标检测是非常关键的一项。因此,车辆目标检测成了近年来的研究热点,受到图像处理与识别、人工智能等相关领域学者的广泛关注。目前主要有两种车辆目标检测方法。第一种方法是使用人工提取特征结合机器学习分类来检测车辆目标,第二种方法是使用深度学习方法来检测车辆目标。由于第一种方法存在检测精度较差、提取目标特征慢、鲁棒性和通用性较差等弱点。近几年来,深度学习方法在车辆目标检测中得到广泛应用。这种方法可以自动提取图片数据特征,对于各种变换、形变和复杂环境具有不变性,检测精度高和速度快。但是,在需要检测较小车辆目标和阴雨天、下雪天、有遮挡的车辆目标时,这种方法仍存在不足。有鉴于此,本文依次将深度学习方法中的Faster R-CNN（Faster Region Convolution Neural Network,Faster R-CNN）和Mask R-CNN（Mask Region Based Convolution Neural Network,Mask R-CNN）模型应用到车辆目标检测中,并对模型进行了改进,同时研究了训练模型的学习率策略。方法改进后,检测较小车辆目标和各种复杂场景的车辆目标的能力有了较大提升。论文主要工作如下:1.对MS COCO数据集、Kitti数据集、Pascal VOC 2007/2012数据集进行了分析,在进行对比实验后,选择MS COCO数据集为本论文的模型训练数据集。2.为了提升车辆目标的检测能力,首先对基于区域建议的网络模型与基于回归和分类的网络模型进行了研究,选择Faster R-CNN模型作为本文的一种车辆目标检测模型;然后对Inception V2、Res Net50、Res Net101三种特征提取网络进行研究,选择Res Net101作为Faster R-CNN的特征提取网络;最后对训练模型时的学习率策略进行了大量的实验,经过精度对比找到实验精度最高的学习率策略。3.对Faster R-CNN模型的区域建议网络的锚框尺寸进行了调整,从而提高了检测较小车辆目标的能力,同时对复杂环境的车辆也有一定的检测能力。4.对Faster R-CNN的两种改进模型进行了研究,决定采用特征提取网络为Res Net101的Mask R-CNN网络模型进行车辆目标检测,并对区域建议网络的锚框尺寸进行了调整,从而进一步提高了对较小车辆目标的检测能力,模型的鲁棒性也较强。