卫星激光通信的通信速率高、保密性强,具有十分广阔的应用前景。然而大容量、高可靠卫星光通信链路的构建依赖于两卫星光通信终端间持续的对准,这给卫星光通信终端的捕获、跟踪和瞄准(Acquisition,Tracking and Pointing,ATP)系统提出了苛刻的要求。捕获是建立和恢复光通信链路的前提,同时光通信链路的保持又需要实现高精度稳定的跟踪。本文正是在这样的背景需求下,开展捕获技术和高精度稳定跟踪技术的研究,为ATP终端的研制奠定技术基础。首先分析了卫星光通信ATP系统的基本原理和工作过程等,为后续捕获和提高系统跟瞄精度的研究奠定理论基础。根据ATP系统的结构组成,分析了ATP系统的复合轴控制结构,推导了复合轴控制系统的闭环传递函数和误差传递函数,表明复合轴控制系统的稳定性由粗、精跟踪系统的稳定性共同决定,而复合轴ATP系统的最终精度由精跟踪系统的精度决定。另外还分析了ATP系统建立光通信链路的过程和ATP系统的链路预算方法,根据系统的链路方程可以评估系统对ATP系统跟瞄精度指标的要求,从而开展ATP系统的具体设计。论文还研究了ATP系统的跟瞄误差,为捕获和稳定跟踪方案的确定提供依据。分析了跟瞄误差的来源,指出卫星平台振动是卫星光通信ATP系统最主要的扰动源,分析了其影响跟瞄精度的途径,从而为研究提高系统跟瞄精度实现稳定跟踪的方法提供了依据。跟瞄误差包括动态随机误差和静态偏置误差,从降低跟瞄误差对系统性能的影响出发,建立了跟瞄误差的数学统计模型,推导出跟瞄误差与链路可靠性的关系式,分别在有、无静态偏置误差的情况下,通过确定光束发散角的大小对链路可靠性进行优化设计,以获得使链路可靠性最高的最佳光束发散角,采用该最佳光束发散角可使系统在跟瞄误差存在的情况下工作在最佳状态。为了实现卫星光通信终端的轻量化和小型化,研究了无信标光捕获方案,基于对光束发散角大小的评估,提出采用超前瞄准快速控制反射镜(Fast Steering Mirror,FSM)进行多场扫描捕获。然后分别对影响捕获时间的捕获方式、扫描方式以及捕获模式等因素进行了分析建模,分别获得了步进多场扫描和连续多场扫描的平均捕获时间表达式,并通过合理选取不确定区域对平均捕获时间进行了优化设计,在一定程度上减小了捕获时间。对捕获过程进行仿真分析和实验验证,仿真和实验结果均与理论分析基本相符,均表明对于超前瞄准FSM的扫描捕获,采用连续扫描比步进扫描所需的捕获时间更短,且多场扫描捕获能在5场扫描内以超过98%的概率捕获到目标。研究了卫星平台振动的抑制方法,以实现高精度的稳定跟踪。提出将基于Youla参数化的自适应反馈控制算法应用于精跟踪系统,以补偿卫星平台振动引入的光束抖动、提高系统精度。根据Youla参数化公式构建可保证系统稳定的反馈控制结构,采用RLS(Recursive Least-squares)算法在线调节该反馈控制器的参数,从而提高系统的扰动抑制能力。搭建实验平台对该种自适应反馈控制算法进行了实验验证。实验结果表明自适应Youla参数化控制器对卫星平台振动的抑制相比于传统的PI控制器提高了9.1d B,并且PI控制器扰动抑制能力受到系统带宽的影响,而自适应Youla参数化控制器几乎在整个频带内都对光束抖动都有一定的抑制能力,扩展了系统抑制扰动的频谱范围,且可在一定程度上消除扰动尖峰,使系统误差的功率谱密度曲线更加平滑。