近十几年以来,随着对地观测卫星、遥感卫星的广泛应用,卫星所获取的大量观测数据需要及时、快速地传回地面。而近地轨道卫星在境内的可通信时间短,境外设站又受到多种限制,需要建立实时、高速的通信链路。传统的无线微波通信传输速率慢,抗干扰能力差,已经难以满足卫星通信的需求。此外,对于一些较为敏感的数据信息传输,无线微波通信的安全性难以保证。海量数据的实时、安全传输,已经成为卫星通信发展的瓶颈。空间光通信是指以光信号为信息载体、地球大气或太空自由空间作为传输信道的通信方式。与传统的无线微波通信方式相比,自由空间光通信具有通信频带宽、信息容量大、抗干扰和抗截获能力强、体积质量小、功率低等优点。空间光通信根据其接收探测方式的不同可以分为直接探测和相干探测,直接探测的优点是结构简单,缺点是探测灵敏度相对较低。而相干探测以其探测灵敏度高等突出优点备受人们关注,是一种更加具有发展潜力的探测模式。空间光通信的发展,主要受制于大气信道对传输光束的严重的影响。大气链路对传输光束相位波前的影响主要体现在两个方面,一是造成信号光和本振光之间的相位出现随机piston平移误差,二是造成信号光波前相位严重畸变。这两方面的影响使得相干探测的混频效率极低,严重制约了空间相干通信的应用。针对随机相位piston误差,采用对本振光的相位进行调制的方式可以很好的解决信号光与本振光相位不同步的问题。对于波前相位畸变误差,采用自适应光学(AO)技术与其他波前相位补偿技术相结合的方式进行补偿。针对光纤相干探测和空间相干探测两种不同方式,AO技术的作用方式会有所不同。对于光纤相干探测,AO技术的主要作用在于提高系统光纤耦合效率。试验中经过AO技术补偿波前相位畸变之后,单模光纤(SMF)的耦合效率由1.3%提高到46.1%,5Gbps空间BPSK相干通信链路稳定建立,误码率小于10-9。对于基于空间探测中单的相干光通信系统,AO系统的主要作用是提高相干混频效率。经过AO技术补偿之后,混频效率由1%以下提高到30%。更进一步,采用空间滤波技术补偿更高阶的波前相位畸变之后,混频效率提高到70%。全文通过理论、仿真、实验等方面证实:采用AO技术与其他相位补偿方法相结合的方式,可以在中湍流情况下建立起高速、安全、稳定的空间相干光通信链路。全文所开展的研究工作是对大气链路下的相干光通信系统实用化有益的探索研究,将对空间相干光通信技术的应用具有一定的推动作用。