近年,随着大批高速率、高质量数据业务的应用,人们对通信带宽的要求也逐渐增加。作为目前主流通信方式之一的光纤通信也被驱使着向长距离、大容量以及高频谱效率的方向发展。而传统的强度调制/直接探测技术已经远不能满足这样的需求,因此,基于相干光通信系统,高阶调制格式、偏振复用、波分复用和数字信号处理相结合是最能有效满足当前需求的方案之一。本文首先介绍了高速相干光通信系统及其相关数字信号处理算法的发展状况和研究现状;然后对相干光通信系统的结构以及卡尔曼滤波器基本模型进行了详细介绍;最后对数字信号处理中的频偏补偿算法和载波相位估计算法进行了研究,并研究了基于卡尔曼滤波器的双偏振并行载波相位恢复算法。到目前为止,大部分频偏估计算法都分为两步完成:首先去除信号的调制信息,然后进行频偏估计。常用去除信号调制信息的方法主要有训练序列(TS)和M次幂操作(M’th)两种。TS方法的噪声容忍性比M’th高,并且适用于各种调制格式,但是TS降低了系统的频谱利用率、增加了系统复杂度。而M’th虽然频谱效率高、系统相对简单,但是该方法有调制格式的限制并且频偏估计范围小。本文对基于训练序列和M次幂的频域FFT变换频偏补偿算法的性能进行了仿真比较。在数据量较大的情况下两者均可完成频偏估计,但是随着符号数量减小,频谱分辨率降低,估计精度下降。基于训练序列估计范围更大并且对噪声的容忍性更高,但是M次幂操作的估计精度更高。但是在这两种情况下,均需要大量的符号来进行频域FFT变换,使得算法的计算复杂度较高。近年来,大量研究利用卡尔曼滤波器来进行频偏估计,该算法收敛速度快、复杂度低、估计精度高。本文对基于训练序列的卡尔曼滤波器频偏估计算法进行了研究,并通过仿真对这三种算法的估计范围和估计精确度进行了分析比较。在载波相位估计算法部分,本文首先介绍了Viterbi-Viterbi载波相位恢复算法、盲相位搜索(BPS)算法和卡尔曼滤波器载波相位恢复算法。然后在Takashi Inoue发表的并行卡尔曼滤波器实现载波相位恢复算法的基础上进行改进,给出了一种基于卡尔曼滤波器的双偏振并行载波相位恢复算法。对于偏振复用系统,考虑两个偏振态上的信号相位噪声是相同的,所以本文算法针对偏振复用16QAM(PDM-16QAM)调制格式,选择两个偏振态上内环和外环上的信号来进行载波相位估计。仿真结果表明,在224 Gb/s传输速率下,基于卡尔曼滤波器的双偏振载波相位恢复算法(最大线宽容忍2800 kHz)相比于单偏振卡尔曼滤波器载波相位恢复算法(最大线宽容忍400 kHz)线宽的容忍性提高了7倍;最大并行处理符号个数提升了3.5倍左右,提升了算法实时性、降低了复杂度;复杂度下降了一倍。最后,在224 Gb/s PDM-16QAM传输实验中对双偏振并行卡尔曼滤波器载波相位恢复算法进行了验证。