数字信号处理(DSP)技术与相干接收技术相结合能够有效的实现电域的信道均衡,对于信息传输容量的巨大需求,实现超高速、大容量的信息系统提供可靠的保证,所以广泛应用于光纤通信中。在动态光网络中,接收端色散均衡所使用均衡算法成为信道均衡的关键所在,由于传输链路的性能容易受到环境中种种因素的影响,链路中的色度色散(以下简称色散)很容易受环境影响而产生变化,这使得我们用静态色散补偿的方式对传输链路中的色散进行有效补偿后,还要使用动态自适应的算法对冗余色散进行有效的处理,以达到最终理想的信号传输质量。本文对相干通信系统中的色散均衡算法进行了深入研究,主要研究内容如下:(1)利用MATLAB软件搭建了 25GBaud QPSK和16QAM相干通信系统仿真平台,实现信号的产生、传输、接收和恢复。(2)完成了基于恒模算法(CMA)的动态色散补偿算法,并进行了25GBaudQPSK和16QAM系统下的色散补偿性能和复杂度分析,分析结果表明,在光信噪比为6dB,8dB,10dB下,QPSK信号的补偿范围分别是±160ps/nm,±640ps/nm,±1280ps/nm。在光信噪比为 15dB,17dB,25dB下,16QAM信号的补偿范围是0,±450ps/nm,±880ps/nm。另对CMA的计算复杂度进行了分析,得出本文所用的CMA的计算复杂度与抽头长度的2倍呈正相关的关系。(3)提出了一种基于时间误差分析自适应动态算法,并进行了25GBaudQPSK和16QAM系统下的色散补偿性能和复杂度分析,分析结果表明,在光信噪比为6dB,8dB,10dB下,QPSK的补偿范围均为±320ps/nm。在光信噪比为15dB,17dB,25dB下,16QAM的补偿范围均为±320ps/nm,通过仿真的结果验证了该算法对信号的调制格式不敏感。另对该算法的计算复杂度进行了计算,得出该算法的计算复杂度与FFT信号块长度的对数值呈正相关关系。