自由空间激光（Free-space optical,FSO）通信是以激光为载波,真空或大气等自由空间为信道的新兴光通信技术,其结合了微波通信和光纤通信的优势,具有高速率、大容量、安全性强和轻小型等优点,在航天航空、军事和民用通信等领域有广阔的应用前景。然而,自由空间激光通信受大气信道的影响严重,大气湍流效应会导致光束波前相位发生畸变,引起接收端光束质量下降,通信误码率增大。本文提出利用光学相位共轭技术进行波前相位畸变补偿,实现高速空间激光通信系统性能的提升,并将其应用到高速逆向调制反射（Modulating retroreflecting,MRR）FSO通信中,通过仿真和实验对补偿效果进行了验证,具体内容如下:第一,本文介绍了基于相位共轭补偿FSO通信的原理,建立了基于相位共轭补偿FSO通信链路的物理模型。采用功率谱反演法生成了模拟大气湍流的相位屏,并应用基于多相位屏叠加的分步传输法对激光通过大气湍流信道的过程进行仿真,给出了光束经过不同大气湍流信道后的光场分布。接着,我们建立了空间型和光纤型相位共轭用于补偿FSO通信中大气湍流效应的物理模型,通过仿真分析了相位共轭技术对于链路在接收端光场分布、信号相位波动、误码率等方面的改善作用,从仿真上验证了相位共轭补偿的有效性。在此基础上,我们通过仿真分析了接收孔径对相位共轭补偿效果的影响。第二,本文对基于相位共轭补偿的FSO通信双跳链路进行了实验探究,在包含长度1.5米大气湍流池的湍流信道中验证了相位共轭补偿对于链路的性能改善。对于2.5 Gbit/s通断键控（On off keying,OOK）强度信号,相位共轭可以抑制信号相位波动对于信号强度的调制,提高信号传输质量。随着湍流的增大,信号光的眼图不会明显恶化,且相较无相位共轭补偿链路,在大气湍流池温差250℃环境时信号传输功率代价减小2.04 d B。在此基础上,针对5 Gbit/s四进制相移键控（Quadrature phase-shift keying,QPSK）信号验证了相位共轭补偿对于链路的性能改善。QPSK信号的信息调制在载波的相位上,通过相位共轭抑制信号在接收端的相位波动可以减轻大气湍流信道对于信号的干扰,相较无相位共轭补偿链路,相同湍流条件下传输功率代价减小1.94 d B。最后,我们验证了相位共轭补偿对于10 Gbit/s偏振复用QPSK信号FSO通信双跳链路的性能改善。偏振复用情况下两路信号的质量均可以得到改善,相同湍流条件下x和y偏振态信号功率代价分别减小2.85 d B和2.34 d B。第三,本文提出了利用相位共轭补偿的高速MRR结构,并验证了相位共轭补偿对于高速MRR FSO通信系统信号质量的改善作用。在大气湍流池中对利用相位共轭补偿的MRR空间激光通信系统进行了实验研究,在大气湍流池温差250℃环境下传输2.5 Gbit/s OOK信号时,信号功率代价减小2.46 d B。当MRR端接收孔径从9.2 mm减小到3.1 mm时,实验中信号功率代价增大1.47 d B,受接收孔径的影响,相位共轭补偿的效果下降。在相同湍流条件下传输5 Gbit/s QPSK信号时,信号功率代价减小2.12 d B。接收孔径同样减小时,信号功率代价增大2.18 d B。对于室外长距离MRR FSO通信链路来说,应该选用大口径的光学天线系统来确保相位共轭补偿的效果。