随着激光器及光电器件的逐渐成熟,自由空间光通信(Free Space Optical Communication,FSO)技术得到快速发展,具有高通信性能的相干光通信在FSO中得到重视和发展。大气空间光通信是以激光光束为载体,在大气中传输的无线通信方式,因此大气信道衰减和大气湍流对激光光束传输的影响不可忽略,不同探测方式的光通信系统性能受大气效应的影响程度不同,系统分析研究大气环境下几种相干探测方式的光通信性能具有重要意义。论文首先介绍了相干光通信的研究背景和意义,阐述了相干光通信的发展历程以及研究现状,简要概述了大气湍流效应对通信系统性能影响的研究现状。详细介绍了直接探测和相干探测的基本原理,并对比分析了两种探测方式的优劣。根据相干探测原理,给出了相干探测通信系统的信噪比、误码率及外差效率的表达式,分析了空间条件和频率条件对其大小的影响。同时,对比分析了相干通信系统中单端探测和平衡探测方式下的信噪比。概述了大气湍流的光学统计特性及其对传输光束的影响机理。重点介绍了大气湍流对激光传输特性的影响,主要分析了光强闪烁和相位扰动效应,给出了大气湍流影响下相干探测系统信噪比的解析表达式。最后利用Optisystem通信仿真软件并以实际器件参数为参照,设计搭建了不同探测方式下的通信系统仿真模型,主要对比了大气效应影响下直接探测和外差探测光通信系统的眼图结构和Q值大小。仿真了平衡探测系统和单端探测系统的Q值随传输距离、天气情况和本振光功率的变化趋势,根据误码仪得到的眼图及Q值对仿真结果进行比较分析,并得出相应的结论,为大气相干光通信系统的设计与搭建提供了理论依据。