光通信作为一种新的星地空间通信方式，正在以其独特的优势逐渐取代射频通信。在光通信的发展中，通信终端的对准仍然是亟待解决的问题。捕获对准跟踪系统作为光通信中一个重要组成部分，目的就是获得良好的对准，其性能的好坏对光学参数设计、收发终端的复杂度以及通信中误码率和突发错误的影响很大。而且在光通信链路中由于采用衍射极限宽度发射光束，接收信号的功率对发射机的对准误差非常敏感。发射机对准偏差大可能导致地面上无法忍受的信号衰落，并会显著降低系统的性能。所以迫切的需要提高捕获对准跟踪系统的精度，减小对准误差。本文首先分析了在捕获对准跟踪系统中影响对准误差的主要因素，其中卫星振动的影响最大。因此，分析了引起卫星振动的原因，并在调研国内外实测卫星振动数据的基础上，总结出了卫星振动具有低频高幅，高频低幅，频谱较宽的特点。针对卫星振动的特点，提出了采用被动隔振和控制算法抑制相结合的振动抑制方案，将改进控制算法作为研究的重点。然后，用机理建模的方法分析了控制系统中关键器件的模型，并用机理建模的结果结合系统辨识方法得出了被控对象的实际模型。根据模型，设计了反馈闭环控制算法。为了获得更好的扰动抑制效果，将前馈结构引入控制系统，分析了一种简单前馈控制器的性能以及存在的问题。针对这些问题，用自适应滤波算法来设计新的前馈控制器。利用最小均值和递推最小二乘自适应滤波算法设计了两种自适应前馈控制器，并与反馈控制组成复合控制。设计了三个仿真实验，以验证前馈参考信号延迟以及对象参数变化对反馈控制和两种复合控制的影响，并在时频域验证了三种算法的性能。最后，搭建了基于PC104的硬件实验平台，使用模型一体化软件设计方法验证了三种算法的扰动抑制效果。