自适应传输系统利用大气信道相干时间估计信道状态信息,根据信道条件及时调整发射端传输参数,在不牺牲误码率条件下提高系统吞吐量和频谱效率,有效抑制湍流衰落的影响。因此大气激光通信的信道估计是实现自适应传输的关键环节。本文分别针对大气激光 SISO（Single Input Single Output）系统以及 MIMO（Multiple Input Multiple Output）系统,进行了大气湍流信道衰落参数和信道传输矩阵估计方法的研究,并基于不同天气实测数据对大气激光SISO系统的信道估计性能进行了验证。具体内容包括:1、阐述了大气吸收、大气散射和大气湍流等因素对大气激光通信的影响。介绍了三种大气湍流 Gamma-Lognormal、Lognormal-Rician 以及 Gamma-Gamma 混合分布信道模型,对比分析了基于不同混合分布的湍流模型进行大气信道参数估计的优缺点。2、提出将Gamma-Gamma湍流分布信道作为一种混合分布模型,采用最大似然方法估计湍流信道衰落参数,推导了基于期望最大化算法（Expectation Maximization,EM）计算未知参数的极大似然估计表达式,研究了牛顿迭代（Newton-Raphson,N-R）和广义阶矩（Generalized moment method,GMM）信道参数估计方法。基于大气湍流Gamma-Gamma信道模拟数据对比分析了期望最大化、牛顿迭代以及广义阶矩法三种估计算法的估计均方误差,并采用克拉美罗界（Cramer-Rao Bound,CRB）评价了三种参数估计方法的有效性。针对不同天气条件下的实验测量数据,通过估计均方误差和拟合度对比了三种估计算法的性能。大气湍流信道参数估计结果表明,基于Gamma-Gamma混合分布模型所提的EM估计算法可以获得最优的信道衰落参数估计性能。3、对大气激光MIMO系统下的信道衰落参数和传输矩阵进行了估计。对比分析了采用EM算法和N-R算法对MIMO信道参数进行估计的性能,仿真结果表明随着MIMO系统收发端孔径数量的增大,两种估计方法估计参数的均方误差均增大,当样本点数相同时,相比较于N-R算法,EM算法估计参数的均方误差更靠近于CRB,获得的估计性能更好。接着研究了自由空间光通信（Free Space Optical Communications,FSO）MIMO信道传输矩阵估计方法,推导了奇异值分解（Singular Value Decomposition,SVD）迭代、改进的SVD迭代以及最大似然估计算法估计MIMO信道传输矩阵H的表达式。分析了训练序列长度、接收端信噪比以及发射接收孔径数量对MIMO信道估计性能的影响。仿真实验表明较长训练序列、大信噪比以及较少的孔径数量能够提高信道矩阵H的估计精度,在三种信道估计算法中,改进的迭代SVD算法可获得最优的估计性能。