随着高清电视、视频会议、云存储等新业务的出现与发展，人们对于现有光纤通信系统组成的骨干网络提出越来越高的要求。基于正交相移键控(QPSK)调制的相干传输系统已成为商用单信道100G光通信解决方案，为进一步提高频谱利用率，同时降低系统对电域中信号处理能力的要求，基于多进制正交幅度调制的相干光传输系统成为目前研究的热点，该系统对相位噪声的抗干扰能力会随着调制信号的星座点数增加而降低。由于载波频偏，以及激光器相位噪声的存在，使得接收机无法正确恢复出发送的数据，因此需要对接收信号进行载波恢复处理。　　 论文首先简单介绍了相干检测系统的基本结构，对接收机信号处理过程进行了分析，仿真分析了残余频偏对相位噪声估计性能的影响，同时对相位噪声形成过程及其统计特性进行了推导计算。　　 常用载波恢复算法中，频偏先于相位噪声进行估计、补偿。论文回顾了几种常用频偏估计算法的原理，针对基于快速傅立叶变换(FFT)的频偏估计算法存在运算量非常大，工程实现困难及估计范围小的问题，提出一种改进方案。其主要思想是:利用训练序列剔除一定长度训练符号的调制相位信息，然后对其取幅角并进行FFT变换，得到载波频偏估计绝对值。在保持相对较高估计精度下，扩大估计范围至±0.5Rs（Rs为符号率），同时减少了FFT长度，从而降低系统复杂度，最后综合比较了改进算法与其他算法的估计性能。　　 对于相位噪声估计算法，论文分析了基于QPSK分割的相位噪声估计算法与基于Test Phase的相位噪声估计算法及其级联式算法原理，并比较了这些算法的性能。在基于QPSK分割的相位噪声估计算法基础上提出一种改进的级联式相位噪声估计方案，使得线宽容忍度增加了64.7％。为进一步增大激光器线宽容忍度，依据差分移相键控(DPSK)差分相干解调原理，提出一种延迟自外差相干测量激光器相位噪声方案。其主要思想是:利用延迟自外差原理测量本振激光器相位噪声的改变量，利用该改变量获得相位噪声估计值。最后补偿相干检测后的采样信号，并利用四次方算法消除剩余相位噪声的影响，以较低的误码率恢复出发送的数据。以16QAM系统为例，采用该测量方案进行仿真验证，当OSNR为18dB，BER为10-3时，本振激光器线宽与符号周期乘积为△f·Ts=3.57×10-3，而采用估计精度最高的前馈式算法其△f·Ts=1.4×10-4，大大降低系统对激光器的要求。