船舶监测技术在水上交通管理、船舶识别以及船舶违章鉴别等任务中具有广泛的应用。随着深度学习的飞速发展,基于卷积神经网络的船舶检测算法已经成为船舶监测的重要方法。在船舶目标检测中,船舶的尺度变化范围广且外形纵横比极大,这些严重影响船舶的检测准确率。对此,本文开展了基于深度学习的船舶目标检测算法研究以及船舶目标跟踪应用研究,重点研究了多尺度船舶匹配锚框的生成方法,自适应特征提取和预测头解耦检测方法以及融合D-IoU距离的改进DeepSort船舶跟踪算法,主要研究内容如下:（1）由于船舶的尺度范围变化大,而手工锚框的尺寸和纵横比是固定的,无法提供有效的参考框,容易导致漏检。针对传统手工锚框无法匹配多尺度船舶目标的问题,研究提出了一种特征引导的锚框生成算法,基于船舶的语义特征,利用卷积神经网络生成目标的最优匹配锚框,使得锚框与标注框具有最大的重叠程度。实验表明,在Retina Net检测器的基础上,该算法比传统锚框方法的检测精度提升了4.8个百分点,同时计算量下降了29.6%,证明本文方法能生成精确的锚框,显著提升检测精度,为检测器提供了一种高效的锚框生成方法。（2）由于船舶的外形以长条形为主,且宽高比较大,而大多数卷积网络采用方形卷积以提取目标的预测特征进行预测,船舶的坐标回归精度不够高。针对特征提取3×3方形卷积与船舶外形不适配问题,研究提出了一种融合可变形卷积的自适应特征提取算法,利用卷积网络预测卷积采样点的坐标偏移,然后采用可变形卷积自适应提取偏移位置的特征;构建了一个解耦预测头网络,提升网络的特征提取能力和预测能力。在YOLOv4检测网络的基础上,本文算法比原始算法的精确率和平均检测精度分别提升了5.6个百分点和5.1个百分点,证明本文算法对船舶目标的特征提取更加高效。（3）由于Deep-Sort算法在背景变化较大时容易出现跟踪ID跳变以及跟踪失败。针对Deep-Sort算法中级联匹配损失无法准确衡量两框的相对位置,研究提出了一种融合D-IoU距离的改进Deep-Sort船舶跟踪算法,利用交并比表示两框的重叠程度,同时构建匹配框最小外接矩形的对角线距离和中心点距离表示非重叠区域以及相对位置;另外还提出了一种双线统计法用于判断船舶的运动方向。实验表明,在三段测试视频中,本文算法的各项性能都优于Deep-Sort算法,对尺度变化大以及部分遮挡的船舶目标都能实现稳定的跟踪。跟踪过程中,双线统计法可以有效地表示船舶与标志线的位置关系,准确判断船舶的行驶方向。