准确实时的海面目标跟踪有利于开展智能航行、环境观测和违法船舶监控等任务。然而,海面目标跟踪仍面临着雾天模糊、背景扰乱、小目标等多种挑战。为了提高跟踪算法的成功率、跟踪精度和鲁棒性,本文针对这些挑战以深度神经网络和强化学习为理论基础,开展了海面目标跟踪算法推导、模型设计等方面的研究,主要研究内容包括:（1）构建了基于孪生网络的海面目标动作跟踪模型,并且针对海面目标的运动规律,设计了向左平移、向右平移和向下平移等多种动作。该方法跟踪目标时,将当前时刻图像的对照模板、感兴趣区域和初始锚框作为动作跟踪模型的输入;模型根据输入自主选择动作,控制初始锚框在感兴趣区域上进行移动、放缩等行为来框选出目标,实现了“端到端”模式的海面目标跟踪。海面目标数据集跟踪实验结果表明了基于孪生网络的动作跟踪方法跟踪精确度和准确率高,并且具有很好的特征保留、抗背景杂乱和抗视频抖动能力。（2）针对跟踪过程中出现的船舶尾浪干扰、环境明暗变化等难题,将强化学习融入跟踪算法孪生神经网络中。根据海面目标跟踪任务的环境,定义决策模型的智能体、状态、动作和奖励,构建基于深度强化学习的海面目标跟踪动作决策模型。使用测试集进行海面目标跟踪实验,实验结果表明了基于深度强化学习的方法可以有效抵抗船舶尾浪干扰、杂乱背景和环境明暗变化对跟踪结果的干扰。（3）设计了一种用于海面目标轨迹预测任务的长短期记忆网络预测模型,该模型首先利用量子蜂群算法求解长短期记忆网络的初始学习率、学习率下降次数等超参数,然后使用求解的超参数搭建长短期记忆网络来预测海面目标轨迹。海面目标轨迹预测实验结果表明了该模型具有轨迹预测精度高、稳定性好等优点。