相干光通信因其具有较高的探测灵敏度、传输速率及频谱利用率而备受关注。在相干光通信系统中,由于正交失衡、频率偏移、时钟偏移等使信号特性变差,造成通信质量下降。本文采用数字信号处理技术对接收信号进行损伤补偿,继而恢复基带信号,提高通信质量。论文主要工作包括以下几个方面:1.相干光通信系统中正交相移键控(Quadrature phase shift keying,QPSK)调制解调基础的分析与研究。研制了相干光通信系统实验平台,分析了 QPSK调制原理并进行了实验研究。对常用的正交失衡算法和载波恢复算法的优点及不足进行了总结。2.QPSK中频信号相干解调的分析与实现。主要分析了相干接收机输出的两路中频信号正交失衡原因,利用搭建的实验平台研究了角度失衡和幅度失衡对相干光通信系统性能的影响,并通过施密特正交化算法对非正交的中频信号实现了正交化;对施密特正交化算法、载波恢复算法及位同步算法的实现过程进行了详细的理论推导。3.QPSK调制解调的实验研究。实验验证了噪声及频率偏移对相干光通信系统性能的影响;分析了环路带宽及噪声对Gardner环的环路收敛性能及相干光通信系统性能的影响,验证了松尾环和Gardner环的工作性能。结果表明:中频信号经过施密特正交化算法校正后,得到的带载波QPSK信号星座图由椭圆形校正为圆形。采用松尾环实现载波恢复时,在环路捕获带为-250k-Hz～3 00kHz之间可较好的实现载波恢复。采用Gardner算法实现时钟恢复时,在环路带宽为800kHz,信噪比为15dB情况下都可实现环路的捕获、跟踪,说明Gardner环性能良好。