随着遥感技术与成像技术的迅猛发展与高分辨率遥感图像数据容量的急剧扩充,高分辨率遥感图像自动检测与实例分割成为了当前遥感应用的研究热点。传统遥感图像自动检测方法主要基于人为定义特征,在高分辨率遥感图像实例分割中,人为定义特征难以达到强特征描述能力,急需开展新理论、新方法研究。近年来,深度学习理论在特征自动提取及端到端特征学习取得了重要突破,基于深度学习的遥感图像目标检测也引起了广泛关注。但是相较于视觉图像,遥感图像具有背景复杂、目标多样、杂波干扰等特性,典型的深度学习实例分割方法面临低效性或精度不足的问题,而难以直接适用。针对上述问题,本文结合深度学习理论与高分辨率遥感图像特性,重点从遥感图像数据集构建、光学遥感图像实例分割方法设计、SAR遥感图像实例分割方法设计三个方向开展研究。本文的主要工作与创新点如下:1.针对现有SAR图像舰船数据集的不足,通过高分辨率原始SAR图像获取与预处理、数据集标注、数据集结构分析、数据集基准测试步骤构建了高分辨率SAR图像数据集,并在SAR领域的舰船检测与实例分割网络的设计中广泛应用。2.针对光学遥感图像实例分割的轻量化网络模型构建问题,提出了轻量化的自适应Ro I提取网络（ARE-Net）。ARE-Net通过全局注意力Ro I提取器与感知Ro I提取器,抑制了光学遥感图像对物理形变的低敏感性对实例分割精度的影响。实验结果表明,ARE-Net相比于主流方法拥有最高的精度与最轻量化的网络结构。3.针对光学遥感图像复杂背景、密集小目标等导致的实例分割低精度问题,设计了一致性建议区域的实例分割网络（CPISNet）。CPISNet利用自适应特征提取网络,保证了实例分割训练测试过程掩膜预测一致性的级联结构从而提高精度。通过i SAID与NWPU VHR-10数据集的实验验证表明,CPISNet对比典型的实例分割方法显著提升了精度,并抑制了其中的虚警、漏检与混叠掩膜等问题。4.针对SAR图像中相邻舰船、小型舰船所导致的低精度问题,提出了一种低层特征引导的实例分割网络（LFG-Net）。LFG-Net基于小目标分割并结合超分辨率技术构建相应的网络模块。在SAR数据集HRSID与PSeg-SSDD上的实验表明,LFG-Net对比主流方法产生巨大的实例分割精度提升,并在近岸SAR区域的密集小舰船、相邻分布舰船等复杂场景,LFG-Net都可有效分割舰船目标。