未来社会的发展将使人们的生活变得越来越智能化,智能交通系统将逐渐融入人们的生活,它在方便人们的出行、提供更好交通服务等方面起到了重要的作用。卷积神经网络的出现让计算机视觉有了跨越式的发展,为智能交通系统的发展提供了必要条件,而车辆检测与分割是智能交通系统中关键的一步。传统的检测方法用尺度不变特征变换等方法提取特征之后分类的做法由于模型的泛化能力不强,存在检测精度不高的问题。全卷积神经网络(FCN,Fully Convolutional Network)虽然在图像检测领域取得了不错的成绩,但在检测的物体出现遮挡、形变以及目标较小等情况时,并不能很好的检测出来。针对上述问题,本文基于全卷积神经网络设计一种新的车辆检测框架,能够使检测结果更加准确,主要研究的内容如下:针对在同一场景下目标尺寸相差较大导致难以检测出小目标的问题,使用多尺度训练的方式,让神经网络在学习特征的时候随机选取三种尺度中的一种进行训练,使整体得到的目标尺寸更均匀,使得各个尺寸大小的车辆都能较好的检测出来。基于Udacity数据集验证,结果显示,该方法使得检测的平均准确率(AP,Average Precision)提高了2.4%。针对常见的卷积神经网络采用固定位置对特征进行采样,导致网络难以适应物体几何形变的问题,提出了可变形位置敏感ROI(Region of Interest)池化。相比于位置敏感ROI池化在网络中增加了一个偏置,使得在采样的时候点位会发生偏移,解决了原始固定采样导致特征提取不细致的问题,在Udacity数据集上验证,可变形网络使得AP提高了0.5%。针对在复杂环境下存在目标漏检的问题,引入了软化非极大值抑制(soft-NMS,soft-Non Maximum Suppression),当检测框之间的重合超过阈值的时候,不会直接剔除得分较为低的检测框,而是通过设置权重适当的降低得分,让原本检测出来的目标不会因为传统的非极大值抑制(NMS,Non Maximum Suppression)而变成漏检的目标。在Udacity数据集上测试的结果表明,soft-NMS使得AP提高了1.5%。基于以上方式在Udacity数据集上的测试,实验结果表明相比于原始的R-FCN检测框架,AP总共提高了4.3%。本文采用的检测框架在检测小目标以及复杂环境下的目标均取得了较好的效果,同时还具有一定的鲁棒性。为了能够更加精确的标记出目标,判断每一个像素点是否在目标区域内,引入了Mask R-CNN对目标进行语义分割。从MS COCO数据集中筛选出含有车辆目标的图片对网络进行训练以及测试,修剪网络层数,减少参数的使用,提高模型的效率。针对Mask RCNN中mask分支置信度不准确导致分割结果难以提升的问题,引入了Mask Io U分支,通过预测的mask与原图mask的交并比(Io U,Intersection over Union)进行对比,从而校准与实际的偏差,实验结果表明,引入Mask Io U使得分割效果的AP提高了0.5%。