近年来,海洋资源的勘探与开发逐渐受到世界各国的高度重视。自主水下航行器（Autonomous Underwater Vehicle,AUV）作为人类探索海洋的重要工具,凭借其体积小、灵活性好、续航能力强等显著优点被广泛应用于军事和民用领域。在众多自主水下航行器关键技术领域中,目标跟踪与编队控制问题备受研究人员的关注。因此,本文以欠驱动AUV为研究对象,基于非线性控制系统理论、反步控制方法和自适应神经网络等理论工具,研究了单欠驱动AUV的目标跟踪、多AUV的水平面编队以及三维编队控制问题。论文的主要研究内容和成果概括如下:基于AUV的几何外形及尾舵、螺旋桨等附体的分布情况,利用坐标转换和多体动力学理论,推导出了欠驱动AUV空间六自由度运动学与动力学方程,并构建航行器运动控制模型,该模型考虑了AUV非线性阻尼项、耦合项和外界环境干扰的影响,为研究AUV的运动控制问题奠定了理论基础。在单欠驱动AUV目标跟踪控制方面,主要针对其三维路径跟踪和三维轨迹跟踪问题,基于滤波反步法分别进行相应跟踪控制器的设计,并利用自适应神经网络技术对系统中的不确定动态进行在线估计和补偿,即控制器不需要任何AUV的水动力阻尼系数,有利于工程实现。此外,有别于传统反步控制器,该方法利用二阶积分滤波器获取虚拟控制量的导数值,有效克服了传统反步法中计算爆炸的缺点,同时降低了高频测量噪声对控制系统的影响,并设计滤波误差补偿系统以确保滤波信号的逼近精度。基于Lyapunov稳定性定理严格证明了整个闭环控制系统是一致最终有界的。对比仿真结果表明了所设计鲁棒跟踪控制策略的有效性和优越性。针对具有参数不确定性和外界环境干扰的欠驱动AUV水平面编队控制问题,设计了两种仅依靠领导者位置信息的欠驱动AUV鲁棒编队控制策略。首先,采用领导-跟随编队控制结构,基于反步滑模控制技术设计编队控制器,引入神经网络技术对领导者和跟随者的不确定动态进行估计和补偿,并设计一种连续的比例积分滑模函数代替传统滑模控制算法中的不连续项,有效削弱了控制系统的抖振,而后基于Lyapunov稳定性定理证明了整个闭环控制系统的稳定性。其次,结合运动体点对点目标跟踪机制,提出一种基于预估器的鲁棒编队控制算法,采用预估误差代替跟踪误差进行神经网络自适应律的设计,实现对模型不确定参数和未知环境干扰快速补偿的同时,有效抑制了控制信号的高频振荡,改善了系统的暂态特性,而后采用级联系统稳定性分析证明了编队控制子系统和预估子系统是输入状态稳定的。最终,针对以上两种编队控制策略进行仿真分析,验证了所提鲁棒编队控制算法的有效性和优越性。针对欠驱动AUV三维编队控制问题,提出了两种自适应鲁棒编队控制策略。首先,基于领导-跟随法设计滤波反步三维编队控制器,利用SHL神经网络技术在线学习跟随者的不确定动态,并引入自适应控制项补偿外界环境干扰和神经网络逼近误差。其次,结合运动体点对点目标跟踪机制,采用辅助系统进行控制器设计,提出一种基于速度观测器的三维编队控制算法,利用观测器实时获取跟随者的速度信息,去掉了AUV速度全局实时可测的假设条件,减小了信息通讯量,同时引入抗饱和函数确保控制信号的有界性,有效降低了发生执行器饱和的风险。最后,基于Lyapunov直接法和级联系统稳定性定理证明了以上两个闭环控制系统是全局稳定的,并通过对比仿真验证了以上两种三维编队控制策略的有效性和优越性。