我国领海面积广阔,占我国总领土面积的三分之一,且海面邻国较多。近年来,海上安全形势日趋复杂,别国窥视我国海洋资源,各国船只不断侵入我国领海;海上军事争端越演越烈,确保海域安全是我国现在以及今后军事战略的重点;因此,加强对我国海域的监控和对入侵舰船的实时探测是非常重要地任务。然而,传统舰船目标检测方法由于仅仅挖掘利用了目标的底层或浅层信息,导致舰船目标检测性能有限;因而需要进一步研究稳健的舰船目标检测方法。近年来,随着成像技术的发展,对目标的精细化观测水平越来越高,发展深度挖掘目标信息和有效利用目标精细信息的船舰目标检测方法已经成为可能;而深度学习的出现使其成为了现实。然而,由于军事研究背景,舰船目标图像不易获得,因此迫切需要研究小样本下的舰船检测方法,提高舰船目标检测能力和检测精度。本文围绕上述存在的问题展开研究,主要研究内容和创新点如下:（1）针对自注意生成对抗网络（SAGAN）得到的图像特征信息表示不足和模糊等问题,本文提出了一种基于改进自注意生成对抗网的小样本舰船目标样本数据增强方法。首先,通过在生成器和判别器中添加附加条件特征,将数据的维度信息与语义特征关联起来,从而实现生成目标对应的类别信息稳健指示;然后,在网络训练进行参数初始化时,引入Adam优化器进行参数优化,并根据先验知识自适应的设置合适的学习率;最后,在训练好的检测模型上分析训练情况及测试输出结果。对比现有SAGAN方法,提出改进的SAGAN方法由于引入了参数优化和条件特征,使得生成的舰船样本图像在清晰度、多样性等方面具有更好的优势,并通过实验结果对比验证了提出方法的有效性。（2）针对小样本下传统深度学习网络模型在舰船目标检测中出现过拟合现象以及难以准确调整参数的问题,本文提出了一种基于迁移学习的舰船目标检测方法。该方法首先引入一种采用竞争策略的自适应微调网络模块,对卷积神经网络VGG-16和Goog Le Net进行改进,提高了预训练模型的性能;然后,把预训练好的VGG-16和Goog Le Net网络模型特征参数分别迁移到训练舰船目标样本数据的Faster R-CNN和YOLO网络;最后,利用上述增强后的舰船目标样本数据对网络进行微调、训练和测试,从而实现了小样本下舰船目标的稳健检测。对比现有检测方法,提出方法能够准确的估计出预训练网络的最佳训练深度及特征参数,解决了小样本下过拟合和检测性能低等问题,并通过实验验证了提出方法的有效性。