现如今,遥感高分辨率影像在民生和军事领域具有重要的价值,随着遥感图像数量的激增,传统的解译手段已不能满足日益增长的任务需求,智能化目标检测技术在该领域起到了关键作用。然而,将目标检测技术的应用于该领域存在诸多挑战,不同于普通的光学图像,遥感图像分辨率高、尺度变化剧烈,最重要的是具有特殊的鸟瞰视角,使用通用场景下的水平检测框会引入不必要的背景信息以至难以得到准确的位置信息,因此通常采用多边形或旋转检测框标注和检测,旋转的目标检测算法研究对于提升该领域的实用价值有重要意义。近几年,已有一些算法从目标表示、回归函数优化等方面提出了创新性的解决方法,而本文致力于改善整个网络的特征表示,旨在提升遥感图像目标检测的性能,获得更为精准的检测结果。针对所述问题,本文的主要研究工作分为以下三点:针对整个目标检测算法中旋转特征提取困难的问题,本文对Baseline的初始特征提取和检测头特征提取分别设计了改进策略。其一,通过分类激活映射图的可视化对比,选择了可解释性胜于CNN的Transformer网络,提取出了更准确的旋转目标初始特征,有效提升了尺度变化剧烈和大长宽比类别的目标精度。其二,针对普通骨干网络不能明确建模方向信息的问题,本文基于旋转等变的卷积核对特征图和FPN网络进行了重新编码,并在原Head后面,加入带有通道排列和插值两步变换的方向维度特征对齐模块,提升了检测精度,由于骨干特征尚不能完全贴合检测头的变换以提取准确的旋转不变特征,有待进一步改进。针对普通Transformer网络在不引入增强样本的情况下不能清晰建模目标方向变化的问题,在上述算法的基础上,本文引入了群等变自注意力的理论,参照旋转等变的CNN网络的搭建,设计了群等变自注意力的骨干网络来提取旋转等变的图像特征,该等变特征能够适应不同朝向的物体特征,与方向维度特征对齐的检测头配合可以得到更为精确的旋转不变特征,提升了遥感目标检测算法的平均精度。针对上述算法推理速度慢、网络结构复杂的问题,本文进行了相应的优化设计,重新定义了RPN网络中Proposal的表示方法,构建快速且高质量的二分类前景区域旋转特征提取网络,将三阶段网络结构压缩为两阶段。实验结果表明优化后的算法能够在损失不到1%精度的情况下有效提升8%到10%的推理速度,与“单阶段”算法几近持平。