作为计算机视觉的基础任务之一,目标检测是对图像中感兴趣目标进行定位和分类。随着遥感技术的不断成熟,尽管遥感图像的数量呈爆炸式增长,但遥感图像的利用率还是很低,航天遥感数据的利用率小于5%,航空遥感数据的利用率小于10%。如何从海量的数据中得到有用的信息?因此需要迫切发展智能的图像理解和解译方法。遥感图像目标检测技术是遥感图像理解和解译的重要研究方向,在军用领域和民用领域有很大的应用价值。随着计算机技术的发展和深度学习理论不断完善,遥感图像目标检测技术在性能上有了巨大的提升。然而,由于遥感图像普遍存在目标分布不均匀小目标多,目标分布不规律呈密集分布,目标有不同朝向且背景环境复杂等特点,导致基于普通光学图像的目标检测方法在遥感图像中表现较差,因此针对遥感图像的具体特点研究高性能的目标检测模型已成为一种趋势。考虑上述遥感图像研究现状,本文针对遥感图像的特点,基于卷积神经网络目标检测理论和方法,着重解决遥感图像中的小目标,密集目标以及多朝向目标的检测问题。主要研究如下:（1）针对环境背景复杂且包含小目标的遥感图像难以进行精准目标检测的问题,提出基于注意力和特征融合的一阶段目标检测模型。该模型对一阶段目标检测模型SSD（Single Shot MultiBox Detector）进行改进,模型由检测分支SSD和注意力分支组成。首先,在检测分支SSD中加入注意力分支,注意力分支的全卷积网络通过逐像素回归得到待检测目标的位置特征;其次,采用对应元素相加的方法对检测分支和注意力分支进行特征融合,获得细节信息和语义信息更丰富的高质量特征图;最后,用软非极大值抑制进行后处理,进一步提高目标检测的准确性。实验结果表明,所提模型在遥感图像小目标检测中,检测精度和检测效率有明显提升。（2）针对现有目标检测模型在密集目标检测性能差的问题,提出了一种基于注意力与可变形卷积的遥感图像目标检测模型。该模型对两阶段目标检测模型的特征提取阶段进行改进。首先,设计特征金字塔模块,采用下采样和跳跃连接的方式融合多层特征,获得含有更多语义信息和细节信息的特征图。其次,采用注意力机制,设计注意力模块。注意力模块由多尺度位置注意力和卷积块注意力模块组成,它们通过施加权重的方式,自适应的强化位置区域特征和通道特征,减少无用信息的干扰。最后,引入可变形卷积模块,通过学习特征图中每个像素的偏移量,自适应的调整感受野,对形态大小不同的密集目标进行有效采样,进而提升检测精度。实验表明,所提模型的检测性能优于文中其它对比方法,能够很好地检测密集目标。（3）针对多朝向密集目标水平检测框重叠的问题,本章提出了一个有向边界框预测的遥感图像目标检测模型。该模型首先在RPN（Region Proposal Network）中加入角度信息,通过预测角度信息,实现有朝向目标的检测。其次,重新设置锚框大小,使其覆盖更多的遥感目标,并且改变传统水平边界框的交并比算法,提出新的适合于有向边界框的交并比算法。最终,输出的图像中含有向边界框,有向边界框含有较少的背景信息且很好的贴合待测目标。实验结果表明,相较于文中其它对比方法,所提模型能实现多朝向密集目标检测的同时,也具有较高的检测精度。