由于遥感影像技术的不断发展,应用场景愈加丰富,针对遥感影像的目标检测算法不断受到关注。传统目标检测算法所输出的垂直矩形目标框在面对遥感影像中的密集目标、大长宽比目标时,存在无法对目标有效分离等各种问题。在此背景下,出现了旋转目标检测这一细分领域。旋转目标检测将目标以带有旋转角度的矩形框进行表示,这种表示方法可以更好地分离不同目标,更适用于对遥感影像的目标检测。而在深度学习高速发展的大背景下,应用深度学习进行目标检测成为趋势,本文故选择以深度学习为基础,对适用于遥感影像的旋转目标检测开展研究。本文首先从旋转目标检测的实际意义出发,对旋转框表示方式、旋转目标检测网络以及相关数据集进行介绍与分析。之后本文从利用深度学习的目标检测算法出发,对现有的目标检测网络以及网络训练策略进行了分析总结。针对基于锚框的旋转目标检测网络训练复杂耗时、两阶段检测网络推理耗时较大等问题,本文结合现有先进方法,设计了一种一阶段无锚框的旋转目标检测网络作为基线,其训练阶段采用“最优传输分配”的动态标签分配策略,并通过实验证明了该网络的有效性。针对基线网络存在的漏检以及旋转框回归精度较低等问题,本文从主干网络、多尺度特征、数据增强、损失函数四个方面对网络进行的改进。使用特征提取能力更强、运行效率更高的主干网络进行特征提取;使用更为完善的特征融合方法;使用图像混合增强与马赛克增强等数据增强手段提升网络泛化性。本文提出了一种包含IoU损失的混合回归损失提升旋转矩形框回归精度,并利用激活函数限制角度输出范围,避免因为角度的周期性而错误引导网络回归。通过上述改进方法,得到了一种高效旋转目标检测网络,该旋转目标检测网络在精度与速度上与现有方法相比具有一定优势。对于面向大量旋转框进行非极大值抑制（NMS）复杂且耗时的问题,本文提出了一种无需NMS后处理的旋转目标检测算法,该算法采用两阶段训练法训练网络:第一阶段使用一对多标签分配策略训练出基础模型,第二阶段固定模型部分参数进行一对一标签分配训练,得到无需进行NMS的检测模型。通过实验证明,这一方法使得网络在牺牲较小精度的情况下运行速度得到大幅提升。