随着我国高分辨率成像技术的发展,高分遥感影像获取难度大幅降低,空间分辨率大幅提高,带来了海量的、内容繁杂的高分遥感影像。基于传统手工特征的算法难以快速、自动化地有效应对这种繁杂的图像特征。近年来兴起的深度学习算法,可以自适应地学习、应对这些繁杂的特征并取得优异的表现。因此,深度学习被广泛应用于各种图像处理领域,如场景分类、目标检测、语义分割。其中,目标检测任务旨在从输入图像中确定目标的位置和类别,被广泛应用于军事、民生、经济等多个领域,具有重大的研究意义。然而,由于多种原因,深度学习在遥感影像目标检测中受到了限制:1)目标存在旋转、缩放等空间形变;2)包含大量难检测的小目标;3)内容繁杂、易混淆;4)区域提案粗糙。因此,如何根据高分遥感影像自身的这些特点和问题,提出针对高分遥感影像的深度学习目标检测系统,是高分遥感目标检测研究的关键。本论文从深度学习目标检测系统出发,针对高分遥感影像中的目标空间形变、小目标较多、目标易混淆、区域提案粗糙等特点,研究了系统中的不同问题:1)特征提取,2)目标定位,3)目标识别,4)定位识别耦合,从而实现深度学习目标检测系统在高分遥感影像分析领域中的拓展与提高。(1)对于检测系统的特征提取问题,本文针对高分遥感影像中目标的旋转、缩放等空间形变的特点,提出结合全连接特征的对于空间形变更加鲁棒、有利于目标识别的优势,以及卷积特征的层级空间语义信息对目标定位的优势,融合两种特征,搭建一个层级鲁棒卷积神经网络用于增强特征提取,有效地提升特征对于图像内容的表达能力。此外,建立了一个大型的、13类的、类间样本量均衡的高分遥感目标检测数据集,用于深度学习目标检测模型的训练。(2)对于检测系统的目标定位问题,本文针对高分遥感影像中含有大量难以检测的小目标的特点,提出通过将卷积特征图向横纵坐标轴上映射,将目标边界框的横、纵坐标分开预测,以避免横、纵坐标预测相互干扰;利用全连接特征引导上述卷积特征,全局语义信息指导局部特征的通道注意力机制,弥补卷积特征中语义信息的不足。根据以上两个模块的有机结合,搭建了一个门控轴聚定位网络,能够有效地提升检测系统在目标定位上的表现。(3)对于检测系统的目标识别问题,本文针对高分遥感影像中存在大量易混淆的视觉细粒度类别的特点,提出利用属性任务与分类任务之间的协同学习,为分类(识别)任务提供更丰富的信息,增加对难区分的视觉细粒度类别的判别能力;建立分类任务和辅助任务之间的关系学习分支,进一步增强两种任务之间的信息共享以及增强分类分支的判别能力。综合上述思想,搭建了一个属性协作卷积神经网络,能够有效地降低识别的错误率。(4)对于检测系统的定位识别耦合问题,本文针对高分遥感影像目标候选框粗糙引起的耦合误差传递问题,提出一种具有新型分类识别耦合方式的网络头,适合输入粗糙提案的情况下使用;而具有传统耦合方式的网络头在精细输入提案的情况下,能够获得更加高效的表现。因此,本文通过对两种耦合方式的网络头进行研究,配合提案由粗到精地变化趋势,提出两种网络头的提案一致网络头协作机制,充分发挥两种不同耦合方式网络头各自的优势,使其优势互补。根据以上研究内容,提出一个一致多阶段检测网络框架。