无人艇作为智能水面作业平台,近年来备受世界各地研究人员的关注和重视,因其智能化、无人化以及低成本部署优势,在未来海洋活动的民事应用以及军事战略中发挥着日益重要的作用。航迹跟踪控制是无人艇实现自主航行功能的基础,其控制器的性能优劣直接影响无人艇完成自主任务的能力,具有十分重要的科研价值。本文的研究重点在于设计出合理的航迹跟踪控制器,满足自主航行任务和外界环境干扰对其提出的鲁棒性、自适应能力和快速响应等高标准的性能要求。主要研究内容如下:首先,针对无人艇动力学模型的高阶项和外部干扰问题,改进设计一种自适应边界层制导律方法,确保无人艇在高速行驶时,横侧误差能够收敛到零附近的极小值。采用一种结合专家控制与S面控制技术,通过专家控制方法避免了S面控制方法中由于参数繁多而带来的资源损耗,分别构成航速控制器和航向控制器,在两个控制器的共同作用下达成对期望路径的跟踪。通过仿真对比,验证了该制导律和控制器具有更好的控制效果,并在海试试验中,通过开展不同任务工况下的路径跟踪控制试验验证了该控制器的可行性和可靠性。另外,针对复杂的反步设计不利于工程实践和集成设计等问题,设计一种无人艇集成有限时间跟踪控制器。考虑到由欠驱动引起的控制能力的缺失,首先将初始跟踪误差系统转换为高阶系统,以应用滑模控制技术。设计一个积分滑模表面以在初始跟踪阶段将系统状态呈现在滑模面内部,借助这种设计,跟踪误差将具有有限时间收敛的特征。最后,针对受海洋环境干扰和输入饱和的水面无人艇的动力定位控制问题,设计一种基于LMI的保成本控制器,以在输入饱和约束的情况下实现无人艇的动力定位控制。利用LMI方法得到闭环系统渐近稳定性的充分条件,控制器通过计算四个LMI来帮助获得有效的控制器参数。