自由空间光通信技术,又称为无线激光通信技术,利用激光在大气中进行数据传输,具有传输速度快且保密性好的特点,在海面终端,如船舶、岛屿间等光缆难以架设的场景中,具有很大的应用前景。然而,海面大气湍流引起的激光束波前畸变,会造成通信系统接收端接收到的激光束光斑分散,能量不集中,进而大大降低通信效率。自适应光学系统可以校正海面大气湍流引起的波前畸变,提高通信终端接收到的激光束能量,常被用于无线激光通信系统中。本文设计并搭建了一套自适应光学系统,共包含两面变形镜,一个波前传感器和一个远场相机,是一套完备的系统。在MATLAB平台下研究自适应光学系统的算法并进行了验证实验,主要包括:利用Nelder-Mead单纯形算法对激光束的光强进行预优化,弥补硬件不理想造成的激光束能量不集中的缺陷;采用线性回归的系统辨识方法估计了系统的输入电压和光斑质心位置间的线性模型,并基于系统模型设计了补偿控制器,用于波前畸变的校正;设计可视化的交互软件,使用C++和C#混合编程,为自适应光学系统开发了配套的Demo软件。实验结果显示,经过Nelder-Mead单纯形算法进行光强预优化后,激光束变得明亮,能量大大集中,最亮像素的光强由74.5变为215(过曝),总光强由181.5变为735;系统建模组数据的模型精度达到了 93.12%,可以准确地反映系统输入、输出间的相互关系;根据系统模型设计的闭环控制器实现了对不同Zenike项、不同强度静态波前畸变的校正,闭环前后,系统RMS值大大降低,激光束的亮度大大提高;Demo软件可以稳定地实现硬件连接、光强预优化、系统建模、闭环控制、可视化显示等功能。本文设计并搭建了自适应光学系统的实验平台,研究变形镜的控制算法并进行了工程化实现,工作成果可以用于海洋环境中无线激光通信系统中的自适应光学系统,用于校正激光束的波前畸变,提高通信终端接收到的激光束能量,进而改善通信质量。