近年来,随着高清视频、互联网、云计算等新兴业务的快速发展,人们对骨干网的带宽容量需求成倍增长。传统基于强度调制、直接检测的光纤通信系统无法满足实际需求,而基于高阶调制、相干检测和数字信号处理技术的高速相干光通信系统具有高速率、高频谱利用率等优势,满足人们对宽带宽、大容量的业务需求。相干光通信系统利用高阶调制格式提高频谱效率和通信容量,通过IQ正交化、色散补偿等数字信号处理技术对传输过程信号所受损伤进行补偿,由于高阶调制格式对频偏和相位噪声更加敏感,所以研究快速、低复杂度的频偏估计和相位恢复算法具有重要意义。本文基于相干光通信理论基础,研究了频偏和相位噪声产生的原因,建立了频偏和相位噪声联合模型,分析了频偏抖动对载波恢复的影响;提出了基于凸优化的频偏估计算法;分析了旋转角度与一阶距的关系,提出了基于最小一阶距的相位恢复算法。本文主要工作如下:(1)频偏和相位噪声联合模型研究相位噪声产生的原因,分析研究了相位噪声的概率分布,建立了频偏和相位噪声联合信号模型,仿真表明频偏和相位噪声都会引起信号在复平面的旋转,从而影响信号判决。分析研究了不同类型的频偏抖动对载波恢复的影响,仿真结果表明,与抖动频率相比,抖动的幅度对载波恢复的影响比较大,并且抖动对高阶调制格式的影响比低阶调制格式大。(2)基于凸优化的频偏估计算法分析了现有频偏估计算法,针对基于快速傅立叶变换算法复杂度高的缺点,提出一种基于凸优化的适用于多种调制格式的频偏估计算法。算法利用三分法能快速找到凸函数最值的特点,降低了频偏估计的复杂度,仿真结果表明所提算法估计精度比基于快速傅里叶变换算法高的同时,算法复杂度是基于快速傅里叶变换的51%。(3)基于最小一阶距的相位恢复算法分析了现有相位恢复算法的优点和缺点,提出了一种基于最小一阶距的相位恢复算法。该算法先用盲相位搜索算法找到相位噪声的粗估计区间,然后利用最小一阶距快速找到相位噪声,降低算法复杂度,仿真结果显示,基于最小一阶距的相位恢复算法和盲相位搜索算法的线宽容忍度基本相同,但复杂度与盲相位搜索算法相比降低了68%。