当今时代,深度学习技术水平的日益提高为计算机视觉领域的研究与发展开拓了新道路。目标检测作为计算机视觉领域的重点研究方向,受到了越来越多的科研人员的关注。近年来,基于深度学习的目标检测方法在性能上明显优于基于传统手工特征提取的目标检测方法,并在检测准确率和检测速度上取得了突破性进展。在目前的大多数目标检测方法中,为了提高模型的检测准确率并加快模型的检测速度,特征信息相对丰富的大、中型目标得到了较好的检测效果,相比之下,小目标的检测效果有待提高。同时由于现实环境的复杂性,目标在不同环境中呈现各异的形态,并会存在各种复杂的遮挡问题影响着检测准确率的提高。为此,本文在现有研究方法的基础上,对复杂环境下的目标检测算法进行了重点研究,主要包括以下三个方面:首先,为提高网络中目标的上下文语义信息,本文以注意力机制为切入点,分析了现有的基于注意力机制算法,根据其具有重点关注域的特性,提出了一种非局部通道注意力模块。该模块在特征图的空间域和通道域中同时自适应的学习注意力权值,获取特征图中需要重点关注的信息,并抑制冗余背景信息,进而增强了目标细节信息的表达能力。在图像分类和目标检测数据集中分别进行实验,结果表明非局部通道注意力模块能有效提高基础网络的性能,并具有通用性,适用于各种基础的卷积神经网络框架。其次,考虑到小目标在图像中所占区域比例较小,随着目标检测网络层数的加深,将出现小目标的特征信息匮乏的问题。本文提出一种新的小目标检测网络,该网络在浅层利用注意力机制提高特征的判别能力,增强浅层特征中小目标的上下文语义信息。同时,通过密集连接结构增强深层网络的特征提取能力,获取丰富的目标信息,使目标兼顾语义信息和细节信息。实验结果表明,该算法在PASCAL VOC、MS COCO数据集中得到较好的检测结果,并且在保证检测速度的前提下,能有效提高小目标的检测准确率。最后,基于以往的目标检测方法进行分析,得出感受野对不同尺度的目标检测有着关键意义。针对复杂环境下目标存在的遮挡问题,本文提出了多尺度感受野特征融合网络。该网络设计了多分枝感受野模块,利用扩张卷积实现了多尺度的感受野,获取不同感受野的目标上下文信息,增强了网络中目标特征的多样性。此外,通过特征融合模块将具有不同表达能力的目标特征进行融合,获取目标的强语义信息,进而提升整个网络特征的表达能力。进一步采用Repulsion Loss进行目标检测模型的优化,以增强模型在目标遮挡情况中的检测性能。经实验证明,本文提出的多尺度感受野特征融合网络在UA-DETRAC数据集中取得了较好的检测准确率,并有效提升了遮挡情况下的目标检测效果。