遥感目标检测算法是近几年来目标检测领域新兴的一个研究方向,并迅速受到了越来越多的关注。遥感场景相较于普通目标检测场景来说,场景中目标尺度变化很大、小目标多、目标的排列杂乱无序、背景环境复杂,这些都为准确的目标检测造成了困难。本文对基于神经网络的目标检测算法发展脉络进行梳理,分析现有算法的优缺点,对遥感目标检测的各种算法进行了详细的研究,最终选择了无锚点框和旋转框结合的目标检测算法作为设计的方向,设计了一种新的遥感目标检测算法。首先,本文研究了现有的主要无锚点框算法并分析其优缺点,结合遥感环境特性,选定了CenterNet作为基准网络进行设计。对CenterNet的网络结构和损失函数进行了深入研究,保留了其中的优秀设计,并在后续加入改进。之后对常见的旋转框进行研究,分析了基础的五参数旋转框和八参数旋转框的特性,为后续新的旋转框设计奠定基础。然后研究了目标检测所用的评价指标m AP（平均精度）,分析其作为评价标准的合理性。其次,在前面的研究基础上,本文对现有的各种变形的旋转框目标检测方法进行深入研究,提出了改进的基于八参数旋转框的目标检测方法,设计了多矢量回归框,给出了配套的损失函数,能更好的回归遥感场景中的旋转目标。所提方法,能够利用回归框与预测矢量间的几何关系约束预测结果,利用回归框各顶点之间的相互关系,避免了通常距离损失函数只能分别对某一坐标单独优化的问题,更好的利用了全局的信息。然后在常用的遥感数据集UCAS-AOD数据集下进行了实验,实验结果表明了所提算法的有效性,进而通过消融学习证明了设计的共线损失函数、垂直损失函数与整体宽高损失函数的必要性。然后,研究了常用的空间注意力和通道注意力模块,对网络结构进行了设计,在Res Net网络中的特定位置结合了注意力机制,使网络能更好的关注到目标可能存在的位置,减少背景信息的干扰。然后结合之前的多矢量回归框及损失函数设计,完成算法整体的设计工作。在三个常用的遥感目标检测数据集下进行了大量实验,实验结果表明了所设计的算法的有效。与其他算法进行对比,效果优于遥感目标检测领域中当前最好的无锚点框算法。最后,分析了所设计网络中存在的不足,对网络结构进行改进,将骨架网络更换为并行使用多个卷积路径的Res Next网络,同时,在改进的网络结构中引入可变形卷积,使卷积运算的采样点发生变更,将采样点分布到特征更丰富的区域。使特征提取更灵活,能使网络获取到不同感受野的信息,学习到多尺度的特征。在UCAS-AOD数据集下进行实验,实验结果表明对网络的优化是行之有效的。