随着大数据、物联网以及数据中心等技术和业务的蓬勃发展，光网络将会呈现高传输速率、弹性化网络配置以及大传输容量等特征，这必将给接收机中的数字信号处理模块带来一系列新的挑战，例如快速跟踪光信号偏振态、快速捕获系统频偏和相位噪声。面临这些挑战，常用的数字信号处理算法存在自身的不足，例如奇异性、收敛速度慢，偏振跟踪速率低和估计精度低等问题。在此同时，由于其具有快速收敛、估计精度高等特性，卡尔曼滤波器及其改进滤波器已被广泛应用于相干光通信中相关系统损伤估计补偿，例如偏振态跟踪、频偏估计、相位噪声估计等。然而，卡尔曼滤波器的估计精度和收敛速度严重依赖于其调优参量Q，在不同的工作环境中，所对应的最佳Q值不一样。因此，面对高度动态化、弹性化的光网络，使用固定Q值的传统卡尔曼滤波器难以兼顾跟踪速度和估计精度。　　基于此，本论文围绕自适应卡尔曼滤波器开展了偏振态、频偏估计和相位噪声估计等多个参量的协同估计研究。在论文中，首先回顾了相干光通信理论基础、相关损伤处理算法、卡尔曼滤波器原理以及自适应卡尔曼滤波器原理。其次，通过理论分析和数值仿真分析了自适应卡尔曼滤波的协同估计算法和传统的数字信号处理算法在不同工作场景下的技术性能。最后，在实验系统中验证自适应卡尔曼滤波器在偏振跟踪能力和频偏估计精度等方面的性能。　　在基于自适应卡尔曼滤波的偏振态和相位跟踪研究中，本文通过数值仿真研究了自适应卡尔曼滤波器和传统卡尔曼滤波器在不同光信噪比、偏振旋转速率和激光线宽等场景下的技术性能。仿真结果表明基于自适应卡尔曼滤波的偏振态和相位恢复方案具有较小的OSNR代价、更高的偏振旋转跟踪能力以及更高的激光线宽容忍度。不仅如此，自适应卡尔曼滤波器中Q在不同工作场景下可以自适应地调节，其性能不受初始Q影响。其次，在实验系统中对比分析了自适应卡尔曼滤波器和传统卡尔曼滤波器的偏振旋转跟踪性能，实验结果进一步验证了基于自适应卡尔曼滤波的偏振态和相位恢复方案具有更高的偏振旋转跟踪速率和较好的鲁棒性。　　在基于改进半自适应卡尔曼滤波的载波恢复研究中，分析了基于半自适应卡尔曼滤波的载波恢复算法中频偏周跳出现的原因，并且提出一种可监测并补偿频偏周跳的改进半自适应卡尔曼滤波的载波恢复算法。并通过数值仿真验证了改进半自适应卡尔曼滤波器在不同频偏条件下可以实现频偏周跳的监测和补偿，消除了频偏周跳对其频偏估计精度的影响。在此同时，改进算法也具有优异的频偏快速跟踪和激光线宽容忍度。　　由于改进半自适应卡尔曼滤波器中Q是通过阈值切换的方式来实现，因此不能算成完全意义上的自适应卡尔曼滤波算法。基于此，本文引入协方差匹配理论在卡尔曼滤波器递归过程中自适应调整Q值，从而在不同的工作条件下实现Q的自动优化。与传统卡尔曼滤波器对比，本文分析了自适应卡尔曼滤波器在不同光信噪比条件下的频偏估计精度、频偏估计范围以及频偏捕获速度。仿真结果显示自适应卡尔曼滤波器在较大OSNR范围内具有更高的频偏估计精度和频偏捕获能力。此外，自适应卡尔曼滤波器在激光线宽容忍度上也有一定的性能提升。最后，我们通过实验系统进一步验证了自适应卡尔曼滤波器的频偏估计精度和Q自适应调节能力。