我国拥有漫长的海岸线与众多港口,并且国内大多通航内河横贯东西通往入海口,具有优越的航运条件。随着“一带一路”、“长江经济带”等战略的实施,提高船舶智能导航能力与船舶监控效率变得愈发重要。船舶目标检测是船舶智能导航与监控的内容之一,作为雷达和AIS等导航与监管设备的补充,基于计算机视觉和深度学习的目标检测算法已经成为一种新的重要导航方法和可靠的监控手段。近些年,卷积神经网络为提高泛用性和准确性,模型逐渐向具有更大规模的参数量及更深的网络层数去发展。然而这种高计算复杂度和庞大模型结构的检测算法存在检测效率低、训练困难、对硬件配置要求高、不利于应用普及的缺点。并且对于船舶这种单一类别物体的检测,这类模型也会出现过拟合风险增加、实时性差等问题。对于船舶检测,除了要求模型需要具有较高检测准确度,提高检测速度和减小模型体积以减小对硬件配置的要求也同样重要。由于YOLOv3检测算法在检测精度与速度上有较为均衡的表现,本文对基于卷积神经网络的YOLOv3检测算法进行改进,在保证检测精度的前提下,提出轻量化的实时检测模型LSDM-LAPN。本文主要研究内容如下:首先分析two-stage与one-stage检测算法的优缺点,并对one-stage检测算法YOLOv3和YOLOv3-tiny进行详细分析,为后续研究提供理论基础;使用Anaconda完成PyTorch和OpenCV的开发环境搭建。其次,使用图像翻转、运动模糊、HSV变换等图像增强方法扩充自建船舶数据集,并设计实现了一种船舶图像拼接方法,以增加数据集的困难样本数量,提高数据集的检测难度;使用K-means++聚类算法对船舶边框进行聚类,得出锚框的初始参数。然后对边框回归损失函数及非极大值抑制进行研究。分析大型公开数据集及自建数据集中待测目标的宽高比,根据船舶的大宽高比特性对CIoU进行改进,在宽高比一致性评价函数中增加宽度回归惩罚项,提高边框回归准确度;对非极大值抑制进行改进,使用DIoU作为距离度量区分边框群,采用置信度作为权重对边框群进行加权平均计算得出目标边框位置,提高目标定位准确度。最后对YOLOv3的骨干网络及注意力机制进行研究。提出基于密集连接结构的轻量化骨干网络LSDM,改进后的骨干网络参数相比原网络大幅降低;结合ECA注意力机制和空间分离卷积对特征金字塔进行改进,改进后的特征金字塔LAPN提高了特征利用效率,降低了参数量。在自建数据集上对YOLOv3、YOLOv3-tiny及改进算法LSDM-LAPN、LSDM-tiny进行实验,结果表明改进后的损失函数和非极大值抑制方法提高了检测精度和定位准确度。基于轻量化骨干网络和注意力金字塔的改进YOLOv3算法LSDM-LAPN在保证检测精度的基础上大幅减小了模型体积,提高了检测速度,可以满足辅助导航和船舶监控的准确、轻量、实时的要求,具有应用价值。