自由空间光通信(FSOC)具有安全性高、频带宽、建造成本低、快速部署、无需频率许可等优点,有着巨大的市场应用价值,成为通信领域研究的热点之一。但当光通信链路处于大气层中时,大气湍流导致大气折射率的随机变化,对光束产生扩展、漂移和光强闪烁等效应的影响。光强闪烁会导致光束质量严重下降,从而影响了FSOC系统的可靠性以及稳定性。基于上述问题本文主要研究信号光束受大气湍流的影响机理,分析了FSOC系统在大气湍流信道下的性能,并进行了相应的数值仿真。主要包括以下两部分内容:(1)分析了大气湍流信道对光通信系统的影响,在这基础上利用修正Rytov理论和Meijer G函数,推导了平面波,球面波及高斯波在大气湍流信道Gamma-Gamma分布模型下通信中断概率的闭合表达式。根据随高度变化的ITU-R大气结构常数模型,考虑内外尺度的影响,数值仿真了平面波,球面波及高斯波作为载波光源斜路径传输时大气湍流信道对FSOC中断概率的影响。(2)从调制信号的角度选择合适的调制方式来降低噪声的影响,提高FSOC系统性能。对不同的调制方式情况下,大气湍流信道中FSOC系统的误码率进行了研究。通过分析和推导MPPM调制方式的编码方式,基于韦伯信道,分析研究了MPPM软硬判决解调时误码率。在这基础之上,将改进的多脉冲调制方式(IMPPM)应用于FSOC系统,通过仿真模拟比较了MPPM和IMPPM调制方式下,大气湍流信道中FSOC系统的误码率。