目标检测是遥感图像分析的重要组成部分,也是将遥感数据转化为应用成果的关键一环。近年来,以卷积神经网络为核心的深度学习技术在计算机视觉领域取得了突破性进展,并在目标检测问题上展现出了巨大的潜力,但是在光学遥感图像目标精细化检测问题中,仍然面临以下几个方面的挑战:1)由于遥感图像成像设备的空间分辨率较低且视野较广,因此目标的绝对尺度和相对尺度一般很小,小目标和微小目标的精细化检测是一个重点也是难点问题;2)由于遥感图像成像设备从空中视角对地面目标进行观测,因此目标往往呈现出任意方向性,任意方向目标的精细化检测是一个难点问题;3)由于很多情况下地物目标是在远离星下点（Off-nadir）成像的,因此大量建筑物底座的部分边缘会被建筑物主体所遮挡,Off-nadir图像中的建筑物底座精细化检测也是一个难点问题。针对上述问题,本研究围绕高分辨率光学遥感图像中目标的精细化检测难题,基于深度学习技术,从小目标检测、任意方向目标检测和建筑物底座检测三个典型问题展开研究,在数据集构建、目标特性分析、方法模型设计和实验结果分析等方面进行了深入的探索,本文主要工作与贡献如下:（1）在小目标检测问题上,针对现有遥感图像目标检测数据集的目标尺度普遍偏大难以有效评估小目标检测性能的问题,在数据集层面构建了一个目标平均尺度仅为12.8×12.8像素的遥感图像小目标检测数据集AI-TOD（Tiny Object Detection Dataset in Aerial Images）。在方法层面上,首先分析了一般目标检测器在小目标检测问题上精度较低的原因,即交并比度量指标对小目标的定位误差较为敏感导致小目标检测性能不佳。其次,针对有锚框检测器,提出了归一化Wasserstein距离（NWD）的度量指标,并将其应用于正负样本分配模块、非极大值抑制模块和损失函数设计中。针对无锚框检测器,提出了多中心点的真值设计。在AI-TOD数据集上的大量实验结果表明,这些方法有效提高了检测器对于小目标的检测性能,与基准方法相比,小目标检测精度从11.1%提升至17.8%,绝对提升了6.7%,相对提升了60.4%。（2）在任意方向目标检测问题上,首先分析了任意方向目标常用表征方式中存在的真值混淆问题和背景像素混淆问题,提出了基于中心概率图的任意方向目标表征方式Center Map OBB。该表征方式使得旋转矩形中心点值为1,边缘值为0,其他位置从1到0逐步递减,有效降低了背景像素对于网络的影响,且由于其本质是对矩形框中的像素进行逐像素软分类,天然具有唯一性,故Center Map OBB同时改善了真值混淆问题和背景像素混淆问题。在此基础上,基于Center Map OBB进一步提出了加权伪分割图引导的注意力网络,用以抑制遥感图像中复杂的背景像素干扰并生成实例级特征以增强任意方向目标的特征。在最具代表性的任意方向目标检测数据集DOTA上取得了76.03%的检测精度,在同期方法中取得了最佳精度。（3）在建筑物底座检测问题上,在数据集层面建立了Off-nadir遥感图像中的建筑物底座检测数据集BONAI（Buildings in Off-Nadir Aerial Images）,其包含六个中国城市的场景,3,300张1024×1024像素的遥感图像,268,958个包含建筑物屋顶、底座和屋顶底座偏移量标注信息的建筑物。在方法层面,首先,基于城市场景中大部分独栋建筑物屋顶和底座形状基本一致的先验信息,提出了使用完全标注数据训练的全监督偏移量学习方法。其次,针对同一个建筑物在多时相遥感图像中底座的形状和位置保持不变的特性,提出了利用大量未标注数据训练的半监督偏移量学习方法,进一步提高了检测性能。最后,针对屋顶底座偏移量的角度分布服从均匀分布的特性,提出了特征级偏移量扩增方法,在不增加训练和标注成本的情况下,显著提高了检测精度。在BONAI数据集上的一系列实验验证了上述方法在Off-nadir图像中的建筑物底座精细化检测任务上的有效性,相比传统方法,建筑物底座的检测精度获得了明显提升。