无线激光通信技术有着通信速率高、保密性好、无需线缆等优点,因此在星间通信、星地通信、海上通信等领域有着广阔的应用前景。然而,在激光传输过程中,大气湍流的影响容易造成激光束光斑中心位置发生偏移、光束到达角发生起伏、光束相位发生畸变等问题,影响了通信的距离和可靠性。快速倾斜镜(FSM)系统能够用来校正光束中心位置的偏移,稳定光斑位置,提高通信的稳定性和可靠性;但是在倾斜镜闭环控制过程中,光斑位置传感器(PSD)的测量噪声会引起误差放大,影响系统的闭环控制效果。针对该问题,本论文中设计并搭建了一套闭环倾斜镜系统,通过滤波器和控制器的优化设计有效地提高了闭环系统对激光光斑的稳定效果。论文首先介绍了倾斜镜系统实验平台的工作原理和系统结构,并利用子空间辨识的方式获得了倾斜镜的动态模型;然后建立时间序列模型来描述湍流影响下光斑的随机运动,并以此湍流模型为基础设计了维纳滤波器用以抑制测量噪声;最后基于倾斜镜动态模型设计了H2控制器,再把维纳滤波器和H2控制器融合,设计了基于维纳滤波器的H2控制器,并通过仿真和实验比较了控制器的效果。滤波仿真结果显示,维纳滤波器能够将传感器的测量均方误差(MSE)减少50%以上,融合了维纳滤波的控制器减少了调节参数,避免因为参数调节带来的不确定性。闭环仿真结果表明,H2控制器能将光斑抖动的方差减小为原始的33%和45%,而基于维纳滤波器的H2控制器能够将方差减小为原始的22%和23%。在闭环实验中,利用Tenengrad函数对光斑CCD图像的清晰度进行评价,清晰度越高光斑越稳定。H2控制器将清晰度从原图的0.0043提高到了 0.0048,而改进后的H2控制器能够提高到0.0058。本文将维纳滤波器和H2控制器融合,降低了传感器的测量噪声,提高了控制器的抗噪声能力,增强了闭环系统对光斑的稳定效果,研究成果可用于星地、海面无线激光通信等领域。