随着整个信息行业的不断发展，电子终端的处理能力与计算能力不断提高。出现了各种复杂的信息类的业务应用，在丰富了人们生活的同时对信息传输网络提出了极高的要求。光传输网络的速率从每秒10G比特提升到40G比特，甚至是100G比特。且人们不再局限于传统光通信只有强度调制的信号码型，而是开始利用光信号的相位信息。随之出现了QPSK、16QAM、64QAM等高阶调制码型在光通信中的应用。进一步对偏振态信息加以利用，即可出现PDM-QPSK(偏分复用的QPSK)、PMD-16QAM等调制方式。　　 信号发射端的新方案，同样要求接收端能有与之对应的新方案。相干接收方案正是这样一种合适的接收方案。相干接收的方案，能够全面获取调制在光信号中的强度、相位、偏振态等信息。高速光通信系统，特别是40G以上的系统中，偏振模色散已经成为限制通信质量的重要因素。同时，在采用高阶调制码型时，对于系统中的相位噪声会十分敏感。因此，相干接收系统中的偏振模色散补偿和相位估计部分是必不可少的两个模块。本文研究重点即这两个模块的控制算法。本文首先对介绍了相干光通信系统的发展概况，然后针对相干光通信系统的基础理论进行了研究，接下来会详细分析相干接收机中主要的接收原理，最后将就相干接收中偏振模色散补偿与相位估计部分的主流方案及其改进方式进行分析。主要工作有以下几个部分：　　 (1)分析相干光接收中偏振模色散和相位噪声两个方面的基础理论。其中包括偏振模色散的产生原理、偏振模色散的主态与分段矢量级联的模型，以及在相位噪声方面，相干接收方案中需要处理的噪声模型。　　 (2)详细分析相干接收机中主要器件的工作原理，以及相干接收机中主要模块的功能与研究现状。　　 (3)相干接收中的均衡算法是本文的研究重点。主要内容包括，分析了相干接收方案中数字信号处理模块对偏振模色散的补偿方案，以及这样的方案在不同的调制码型中的应用及其修改方案。接下来介绍了几种载波恢复主流方案，针对特点的调制码型，提出新型的改进方案，并通过仿真，对于对算法改进前后各项指标的改进。总之，本论文的主要工作集中在研究相干接收的整体方案概况、以及其中偏振模色散补偿和载波恢复模块的算法研究中。根据相应的数学和物理模型，通过仿真的研究方式，验证相关理论及其改进方式的正确性和算法的可行性。