随着卫星和遥感技术的发展，遥感影像的数据量也越来越庞大，超出了任何人工操作和处理的范围。因此，遥感图像的自动分析使这些图像在城市资源管理、搜索、海洋监察、海洋资源管理等实际应用中发挥重要作用。同时由于传感器技术的进步，获取到的遥感影像的空间分辨率不断变高，使得定位各类目标(比如，飞机、船只、车辆、港口等)成为了可能。然而，光学遥感影像不可避免地会受到各种因素影响，比如目标密集排列、外观相似和目标较小的影响，导致检测算法性能下降，给光学遥感图像的目标检测带来了较大的挑战。
　　针对地面目标密集排列的情况，检测框高度重叠，导致漏检率高的问题，本文提出了基于分割的目标检测算法。首先利用标签中的目标框生成每个目标的掩码，训练实例分割模型MaskR-CNN。在检测阶段，对每个实例的掩码求取最小外接矩形，因此可以得到每个目标的紧密包围框，再通过对检测框做非极大值抑制操作，去除高度重叠的冗余框，实现对目标的精确定位，有效消除了因为目标密集排列，检测框高度重叠，导致目标漏检的问题。实验结果表明这一算法框架达到了最高的精度。
　　由于部分地面目标背景复杂，同时外观较为相似，容易引起误检。针对复杂背景，多类别目标检测误检率高的问题，本文提出了基于图卷积神经网络的类别约束方法。利用目标在数据集中分布的先验信息，构建关系图，通过图卷积神经网络提取知识图中的非结构化信息，并将该信息融合到检测器上，充分利用了目标类别间的关系信息，修正误检的类别，从而有效地降低误检率。
　　遥感影像中部分目标较小，经过卷积神经网络下采样后，容易造成丢失。针对小目标丢失严重的问题，本文提出了相邻尺度特征增强金字塔结构。在经典的FPN结构中，深层的特征会经过上采样不断与前面层的特征进行融合，但是深层的特征图相对于浅层的特征图已经丢失了大部分信息，所以这种特征融合的方法比较冗余。因此，本文提出了一种更高效的特征融合方法，每一层的特征融合只使用相邻层的特征，使得网络能更加专注于编码和解码，同时本文采用转置卷积作为特征图上采样的方法，使得到的特征图信息更丰富，具有更强的可解释性。实验结果表明本文改进的特征融合策略有效地提升了小目标的检出率，相比较于经典的FPN结构具有明显的提升。
　　为了验证本文提出的算法的有效性，本文采用了谷歌图像上采集的卫星遥感数据。实验结果显示本文提出的算法相比于目前比较先进的算法在遥感图像目标检测上有显著的优势。