随着海洋强国战略的不断推进,无人船在海洋作业中发挥着越来越重要的作用,如资源勘查、海上救援、海域自动巡航和未知海洋环境采样及检测等,其中故障率低、可靠性高的欠驱动无人船得到广泛应用。但由于海洋任务的越发复杂性和多样性,对欠驱动无人船的控制性能提出了更高要求。因此,提高未知外部环境扰动下欠驱动无人船的控制性能具有重要的理论意义和应用价值。基于此,本文以欠驱动无人船为研究对象,研究欠驱动无人船的目标跟踪及编队控制问题,主要工作如下:针对欠驱动无人船在航行过程中,模型中的不确定性和未知外部环境扰动严重影响控制系统的性能和稳定性的问题,提出一个基于自适应自组织神经网络的目标跟踪控制策略。首先采用状态观测器解决跟踪目标速度不可测的问题,其次针对模型中的不确定性及未知环境扰动,设计一个自组织神经网络,可以逼近模型中的不确定性及未知环境扰动,提升控制系统的鲁棒性,该神经网络通过优化神经元数量节约大量的计算力,最后结合backstepping法设计了鲁棒目标跟踪控制器。理论分析表明,整个闭环误差系统是输入状态稳定的。仿真实验验证了控制算法的有效性。针对具有非对角惯性矩阵和复合未知动态的欠驱动无人船编队控制问题,提出了基于预设性能的自适应神经网络有限时间编队控制策略。首先采用坐标变换法求解非对角惯性矩阵问题,设计高增益观测器来估计领导者的速度,采用tan型Barrier Lyapunov Function（BLF）保证编队队形距离和角度约束,同时避免碰撞和保持有效通信距离;最后设计自组织神经网络来补偿由模型的不确定性和未知环境干扰组成的复合未知动态,在有效地减少神经网络的计算量以节省计算资源的前提下,提高了系统的鲁棒性和控制精度。理论分析结果表明,闭环系统为实际有限时间稳定的,其中所有信号都是有界的。仿真实验验证所提出的控制方法是有效的。针对在编队运动控制过程中,通信带宽不足、通讯资源有限的问题,提出了一种基于时变BLF和事件触发机制的有限时间控制策略。首先提出一种时变的BLF以保证预设性能,避免采用过于复杂的传统的tan型BLF;其次结合backstepping法设计了动态面控制（DSC）,避免微分爆炸。最后基于事件触发策略设计一种欠驱动无人船有限时间编队控制器,解决编队控制过程中通讯带宽不足问题。稳定性分析表明,闭环系统的所有信号均是有界的,且闭环系统是实际有限时间稳定的,避免了Zeno行为。仿真实验验证了该控制方法的有效性和可行性。针对编队控制过程中有限时间控制过于依赖初始状态问题,提出基于最小学习参数神经网络和相对阈值事件触发的欠驱动无人船固定时间编队控制策略。首先提出神经网络的固定时间自适应最小学习参数,在固定时间内逼近外界扰动及模型不确定性,提高神经网络的逼近精度和收敛速度;其次,提出一种相对阈值事件触发策略,以解决编队控制中通信带宽不足的问题;最后结合最小学习参数、backstepping法和相对阈值的事件触发策略,提出一种基于神经网络的事件触发全局固定时间编队控制策略。稳定性分析表明,闭环系统的所有信号都是有界的,且闭环系统为实际固定时间稳定的,避免Zeno现象,仿真实验验证了该算法的有效性及性能的优越性。