随着深度学习的发展,目标检测在很多现实场景中都取得了重大进展。尽管如此,小目标检测仍然存在巨大的挑战,尤其在遥感图像领域。由于成像的特殊性,小目标成为了遥感图像中普遍存在的问题。然而无论是在民用领域还是军事领域,小目标检测都具有举足轻重的意义。经研究发现,遥感图像小目标检测的主要问题有四个:目标有效特征少导致的表征能力弱、目标特征易丢失、目标易淹没在复杂背景中以及目标定位难。本文主要针对这些问题提出相应的改进方法,主要工作点可分为四个部分:第一,针对遥感图像小目标特征易丢失的问题,提出了一种新颖的特征金字塔网络——Refine FPN,并在多个遥感图像数据集上验证了基于Refine FPN的二阶段目标检测网络的有效性。相比于原始FPN,Refine FPN采用了resize-conv的上采样操作,重新设计了深浅层特征融合的building block,以及增加了同层次特征图输入与输出间的跳连接。第二,针对遥感图像小目标有效特征少、表征能力弱的问题,提出了一种跨层注意力网络,并在多个遥感图像数据集上验证了基于跨层注意力网络的二阶段目标检测网络的有效性。跨层注意力网络的设计灵感来源于人类识别远距离小目标的注意力机制。在跨层注意力网络中,本文通过设计改进的非局部注意力模块来模拟这种注意力机制,并在其后增加一个跨层聚合与均衡模块为后续检测网络提供更强更均衡的特征。第三,针对遥感图像小目标定位难的问题,提出了一种基于上下文和级联结构的遥感图像小目标检测网络,并在多个遥感图像数据集上验证了该网络的有效性。基于上下文和级联结构的目标检测网络主要包含两个部分:上下文转移模块和级联检测网络。其中,上下文转移模块是为RPN阶段生成的每一个Ro I赋予上下文信息,辅助目标定位,而级联检测网络则是通过一组不断增大的Io U阈值来训练一组级联的检测网络,从而避免过拟合问题,缓解目标检测中的近似假阳性检测框的问题。第四,针对目前遥感图像小目标数据集稀缺问题,本文对DOTA 1.5版本数据集进行了分析,并将其中包含小目标较多的四个类别组成了一个包含大量小目标的数据集,称作Small-DOTA数据集。该数据集能够用于评估模型应对密集小目标场景的能力。此外,本文还包含对Small-DOTA数据集和OHD-SJTU-S数据集进行了滑窗切图的预处理操作和转化OHD-SJTU-S数据集的目标实例标签等前期准备工作。