随着社会信息化程度的不断提高,人们对互联网的信息需求也在不断增加,提高通信系统的传输容量和传输速度已经成为光通信系统的研究热点,相干光通信技术会是今后通信领域的发展趋势。高阶调制码型可以提高频带利用率和传输容量,数字信号处理技术可以改善信号传输过程中的失真,改善信号传输质量。本文主要围绕多载波交错正交幅度调制(MC-OQAM)系统重点进行了载波相位恢复算法的研究工作。针对未来互联网的需求,本文跳出传统光纤通信系统方案的框架,使用理论上具有更高灵活度和系统容量潜力的MC-OQAM调制技术作为信号调制方案基石,对MC-OQAM系统的基本原理,光纤传输过程中的各种信号损伤以及数字信号处理阶段对这些信号损伤的补偿机制进行了介绍。通过对相干光通信系统中的载波相位恢复算法的研究,本文选取盲相搜索(BPS)算法为理论基础,针对计算复杂度高的问题,本文提出了基于BPS算法改进的低复杂度算法,经MATLAB仿真验证可以达到无需使用的乘法器,就可以获得与BPS算法相同的性能,实现降低算法的计算复杂度而不降低性能。根据MC-OQAM系统的相邻的子载波在光调制时被加载在同一个激光器上,它们的信号在同一时刻具有接近的相位噪声偏转值这一系统特性,本文提出了一种联合载波相位估计算法,经MATLAB仿真验证可以达到与BPS算法相比获得较低的系统误码率的效果,实现提高载波相位恢复的准确性,改善系统性能。最后将两种算法的思想融合起来,组成了低复杂度的高性能的载波相位恢复算法。并且通过MATLAB仿真验证证明了算法的可行性,达到了既可以降低算法的计算复杂度还可以改善性能的效果。