随着“宽带中国”国家战略即将推出，传统的强度调制/直接检测(IM/DD)光通信系统已不能满足未来传输更大容量数据的需求。作为上世纪九十年代曾蓬勃发展的相干光通信不仅可以提供高速的传输，而且利用数字信号处理(DSP)技术可以对系统失真实现良好补偿。随着数字信号处理器运算速度的不断提高，相干光通信已经成为下一代高速光通信网络中最有竞争力的技术之一。基于此背景，本论文对相干光通信系统中的核心技术——载波相位估计进行了系统的研究。重点介绍了M次幂算法，DAML算法以及自适应DA ML算法原理，仿真分析了算法涉及参数对相位估计性能影响，并给出了最优的参数取值。首次从空间复杂度和时间复杂度对比分析了M次幂算法与DAML算法，DAML算法最大特征是引进了参考相量，不仅在相位估计性能上优于M次幂算法，而且克服了M次幂算法中的非线性操作以及相位模糊处理，算法中涉及操作都是常规线性计算，更加适用于实时数字信号处理和在高速相干光通信系统中进行相位估计。引入电子色散均衡增强相位噪声(EEPN)的概念，介绍了EEPN产生的机制，给出了电子色散均衡滤波器为FD-FIR时EEPN数值大小。分析了系统相位噪声，提出了系统最佳传输速率概念，其大小主要与发送端激光器与本地振荡(LO)激光器线宽比值有关，利用系统最佳传输速率可以有效抑制系统相位噪声的影响，改善系统性能。最后，系统分析了EEPN对载波相位估计算法影响，得出DAML算法更加适合与电子色散均衡模块集成以及长距离传输的相干光通信系统。