目前,大气激光通信技术面临的最紧要问题就是大气信道中湍流对光信号的影响。近几年来,将自适应光学技术加入到激光通信系统中用以改善大气湍流扰动的方法逐渐成为人们的研究热点。本文主要对大气湍流在激光通信系统中的影响机制及自适应光学对系统的改善作用进行了相关研究。主要工作内容如下:首先,从基本特征、模型和特征参数三个方面整体介绍了大气湍流效应,总结了含有自适应光学系统参数的激光通信系统耦合效率公式,分析了不同湍流强度下,耦合效率与Zernike拟合阶数、自适应光学校正带宽参数f G/f3d B的关系。然后,简述了大气激光通信自适应光学系统的组成,从波前的Zernike多项式表示、S-H传感器和变形镜的工作原理、波前校正算法几个方面研究了自适应光学的技术原理,并分析了自适应光学系统性能指标的选取。其次,本文将两种自适应光学波前校正算法进行组合,设计了一种组合校正算法,用数值仿真的方法对该算法合理性进行了验证,并在不同湍流强度和拟合精度两种情况下进一步分析了该算法的性能。结果证明,组合校正算法比单独使用两种算法时的校正效果更好,校正速度更快。最后,研究了一种基于二元光强调制的无波前自适应光学技术,通过对基于Walsh函数的重构波前进行相位解缠绕和平滑处理,验证了该技术可以满足较高的波前重构精度,根据波前样本在不同湍流强度下校正的仿真结果分析,证明了该技术对强湍流具有较高的适应性,具备大气激光通信系统在强湍流环境下的的应用潜质。