信息的几何增长对通信的信道容量、传输速率、覆盖范围提出了很高的要求,而大气激光通信凭借信道容量大、传输速率快、通信限制较小、可靠性高、保密性好、无须频率许可等优势快速发展。然而激光光束在大气信道中传输时,大气会对其造成一系列的影响,包括大气衰减、多次散射导致的多径效应、大气湍流引起的激光光束波前畸变等,这些因素都会导致接收端信号信噪比降低,误码率提高,制约了大气激光通信的发展。本文主要研究的是激光通信过程中大气湍流导致的波前畸变及畸变校正,具体研究内容如下:1.由于斜程大气激光通信应用更为广泛,本文研究了斜程传输过程中大气湍流引起的激光光束波前畸变,建立了斜程传输波前畸变模拟的模型,得到了适用于模拟斜程光传输的相位屏。利用等Rytov指数间隔分层模型对大气湍流相位屏模拟区间分层,结合光束扩展计算不同高度对应的相位屏尺寸,最终得到了激光沿整个斜程路径传输的波前畸变,与以往的模拟方法相比,低频部分相位差值可达π/2。2.基于互信息理论改进了有波前探测器波前校正系统的模式法,通过计算不同模式与波前畸变的互信息,选择互信息大的模式优先用于波前校正,在不影响波前校正性能的基础上降低了重构矩阵的维数,提高了波前校正的速度。在达到相同的重构精度时,重构的模式数降低到原来的27.7%。3.改进了无波前传感器波前校正系统的粒子群算法,利用metropolis准则来判断波前校正过程中是否接受当前的校正状态,使得粒子群算法有一定概率跳出校正过程中的局部最优状态,避免了粒子群算法在校正过程中过早收敛问题,改进后的算法在校正过程中使得斯特列尔比的收敛值提高了32.4%。4.分析了大气激光通信中畸变波前的分形特征,并由此引申到多个接收端的大气激光通信系统不同接收端所对应的激光光束畸变波前的分形特征。基于分形布朗运动改进了多个接收端的大气激光通信系统的波前校正方法,在不影响其通信性能的前提下,以降低一点校正精度为代价,将校正时间降低了80%,加快了波前校正的速度,且减少了波前探测器的使用。