近年来,汽车数量增加导致的交通问题层出不穷,由此引发的自动驾驶研究已被国内外众多企业提上日程。随着深度学习的发展,一般简易交通场景下的目标检测精度已可达驾驶标准,但面对复杂场景下的目标检测,道路中存在遮挡目标和小目标检测,通过传统算法无法获取更高精度的检测。因此,本文采用了深度学习为基础的目标检测技术,分析自动驾驶复杂场景下目标检测的重难点,进而研究适用于复杂场景下的目标检测算法。具体的研究工作如下:1)通过对比实验,分析了典型目标检测算法,选择算法改进对象。首先基于当前目标检测中常用的基于深度学习的目标检测技术,通过实验研究和分析了三类经典目标检测算法,分别为Faster Regions with CNN features（Faster R-CNN）、Single Shot Multi Box Detector（SSD）和You Only Look Once Version Five（YOLOv5）。实验结果显示,不论是检测精度还是检测速率上,YOLOv5算法皆优于其它两者,因此本文以YOLOv5为基础框架对复杂场景下的目标检测算法进行研究和改进。2)提出了一种改进的聚类算法。本文改进了传统K-means聚类算法以生成更适合自动驾驶复杂场景下的锚框。改进后的K-means算法解决了原本K-means算法中初始聚类点选取随机而导致的最终结果与最准确聚类相差较大问题,缓解了传统聚类算法的局部最优的问题。改进后的K-means算法所生成的锚框可获得更好的泛化能力,针对本文可适用于复杂场景下的目标检测。3)重构了一种更倾向于对正样本和难分类样本的损失函数模型。在One-Stage类型算法中,由于未采用FPN网络对目标进行粗筛,因此在目标检测中会面临正负样本不均衡问题,而复杂场景下的小目标数量上升进一步加剧了该问题。由此本文将损失函数中的分类损失和置信度损失中引入焦点损失（Focal Loss）,针对不易识别样本进行加权学习,以此缓解小目标检测精度不足问题。同时,采用CIOU loss作为边界框回归损失以达到预测框与真实框更为准确的差距,从而缓解复杂场景下同一区域目标密集而导致的遮挡目标漏检问题。同时,本文将CIOU引入NMS算法中,用以准确识别密集区域目标边界框。4)重构了一种目标检测网络模型,提出了一种面向自动驾驶复杂场景的目标检测算法。本文提出的面向自动驾驶复杂场景的目标检测算法,用于解决YOLOv5算法在复杂场景下遮挡目标漏检率较高问题。本文首先在神经网络结构上,在backbone主干网络中引入DCN（Deformable Convolutional Networks）网络,其次,采用CIOU Loss作为本文算法的回归损失函数中的边界框回归损失,用以解决遮挡目标预测框与真实框定位差距较大问题。对比实验结果表明,本文提出的复杂场景下的目标检测算法在保证实时性的情况下在复杂数据集COCO和KITTI上检测精度提升了2.9%。