相干检测使信息可以被编码在光信号用来传递信息的四种物理量上,包括强度、频率、相位和偏振,因而它能改善系统的频谱效率。近十年来,网络游戏、高清网络电视、视频直播等新业务发展得很快,网络需求容量快速增长,之前的带宽已捉襟见肘,所以人们把关注的目光转移到具有高频谱效率的数字相干检测技术上来。与此同时,高速率模拟数字转换器(Analog to Digital Converter,ADC)的出现以及数字信号处理(Digital-signal-processing,DSP)技术的更新使得对信号传输损伤在GBaud速率上进行数字补偿成为可能。DSP算法不但可以对信号经过光纤信道所受到的线性效应和非线性效应进行补偿,还可以实现信号激光器与本振激光器的载波同步。因此,许多研究人员致力于相干检测之后的DSP算法设计与性能的改进。本文首先阐述了相干光通信系统的基础知识,对系统的发送和接收部分分别做了简要的介绍。接着对影响相干通信的各种因素包括调制器不理想性、相位噪声和频率偏移、光纤传输过程中导致的色散、偏振耦合、非线性效应进行了分析,并分别仿真得到了其影响的效果图。然后介绍了当前应用在相干光通信系统中的数字信号处理算法,包括色散补偿、偏振解复用、非线性均衡、时钟同步以及载波恢复算法五个方面,对其进行了一一实现并尝试改进。最后对算法级联后各种性能影响因素进行了联合影响分析。