目标检测是计算机视觉领域的一个基本且重要的研究方向。其主要目的是识别图像中的所有物体并定位它们的位置。作为图像理解和计算机视觉的基石,目标检测成为解决高级复杂视觉任务的基础解决方案。近年来,随着深度学习的飞速发展,目标检测技术已经取得了巨大的突破。目前,目标检测已广泛应用于许多领域,例如:图像分割、场景理解、目标跟踪、图像描述、事件检测、自动驾驶、智能监控和医学图像分析等。然而,尽管目标检测领域的研究已经取得了重大突破,但是现有算法在某些应用场景中的识别精度仍然较低,特别是在复杂场景和小目标检测中。在现实生活中,目标可能会出现等比例缩放,且在剧烈变化的光照、遮挡等条件下,可能进一步增加目标检测的难度。本文针对复杂场景中的目标检测进行了一系列创新研究,并基于现有的目标检测算法,提出了多种新颖的方法来提高目标检测的性能。本论文的主要贡献概括如下:针对识别精度低和目标细微特征的提取问题,本文提出了一种基于深度卷积神经网络的特征融合方法,通过引入逆卷积层,采用多尺度全特征融合策略,提高了目标检测的准确性。为了提取不同层的特征以增强预测层的目标检测的特征图谱表示,在获得不同尺度的特征图谱的同时,该模型也将细微特征从浅层传输到深层,语义特征也通过这种方式从浅层往深层次传递。新生成的特征图谱既包含目标的细微特征又包含丰富的语义特征,该策略保留了目标的感受野且能够避免目标（特别是小目标）感受野的缺失,这就使得该模型在检测小目标时置信度较高,解决了当前目标检测研究中小型目标检测精度不高的问题。大量的实验结果表明,该方法通过融合不同层次的特征,提高了目标检测的性能,特别是针对小型目标的检测。当图像中存在不同大小的目标时,为了提取和学习更好的特征,解决召回率低、定位错误等问题,本文构造了一个具有卷积核大小为1×1的卷积层、空间金字塔池化层和均方损失的Inception模型,损失函数用于优化目标的所属类别和目标边界位置。Inception有助于加深和拓宽网络结构,因为不同尺度的卷积核是并行连接的,可以提取更有效的多尺度特征。因为卷积神经网络需要输入固定大小的图像,所以模型添加了一个空间金字塔池化层,该层能够将任意尺寸或任意比例的图像处理为固定尺寸的图像,并且能够提取不同规模的池化特征。这些目标边框的大小与图像大小成正比,因此无论图像大小如何,边框的数量都是固定的,这不仅提高了网络性能,而且还避免了重复计算卷积特征,大大减少了计算时间。实验结果表明,该方法可以大大减少目标的丢失率,并减少识别和检测中的错误。针对精度低的问题,同时为了提取目标的判别特征,提出了一种判别特征学习技术。在该方法中,以端到端的方式实现了深度卷积神经网络的三元组嵌入结构,该结构可以提高识别精度并增强复杂场景下各种目标类别中正负的分类。所提出的框架学习了从图像到广义欧氏距离的映射,其中距离直接对应于目标相似性的度量。这样便降低了类内和类间的变化,从而以较低的计算成本实现了高精度的目标检测。大量的实验证明了该方法的有效性,此外,该方法还很好地解决了小型目标检测的问题。