随着经济社会的快速发展,人们对于数据传输速率的要求越来越高,而传统的电域传输方式已经不能满足这种快速发展的需求。作为世界通信网的骨干光纤通信系统得到了迅速的发展。为了适应当下短视频、增强现实和虚拟现实等互联网业务爆炸式的增长,各种复用技术如高阶调制、脉冲成型、偏振复用应运而生。虽然利用高阶调制格式能够提高系统的频谱效率,但调制格式越高阶伴随而来的问题是对光信噪比(OSNR)的要求越高。在这种情况下,复用技术如偏振复用方法越来越受到人们的重视。因此,研究有关高速偏振相干光通信系统的课题是十分有意义的。偏振相干光通信系统能够提高信号一倍的频谱效率,但与此同时在偏振相干光通信系统中会引入偏振效应相关损伤如偏振态旋转(RSOP)和差分群时延(DGD)。在RSOP和DGD两种偏振损伤下,信号会受到损伤。目前来说,商用的偏振解复用方法主要是CMA/MMA算法。但是有研究表明,在RSOP和PMD两种效应组合在一起的时候,CMA解复用方法会使得接收机发生失锁。因此,对于在极端场景下,如何找到一个偏振解复用算法能够适用于高速光纤通信系统信号损失均衡的要求是极其重要的。本文主要对在极端场景下光纤通信系统中基于自适应卡尔曼滤波器的损失均衡这一课题进行研究。其中,我们主要针对极端场景下的偏振效应相关损伤深入探究。介绍传统的均衡算法如CMA,扩展卡尔曼(EKF)滤波器算法,并在这基础对自适应卡尔曼滤波器进行优良的改进。本文的主要工作内容如下:(1)基于MATLAB软件仿真相干光通信系统,分析偏振损伤对相干光通信系统的影响。(2)剖析了在极端场景下针对PMD和RSOP的均衡算法的优缺点,分析了卡尔曼滤波算法中过程噪声协方差矩阵(Q)和测量噪声协方差矩阵(R)对其性能的影响。从卡尔曼滤波稳定性的角度,得出过程噪声协方差矩阵元素要大于测量噪声协方差矩阵元素。与此同时,提出了一种基于协方差匹配的自适应卡尔曼滤波器均衡算法,能够在不恰当的初始Q和R值的情绪下仍能保持良好的性能。(3)我们通过仿真和实验同时验证了在基于28GBaud的光纤通信系统中,AEKF在不同调制格式、偏振损伤、噪声系数的性能,并且将EKF作为对比算法。仿真和实验结果表明,AEKF相对于传统的EKF来说,对q,r的容忍范围,量级扩大了 8倍。并且在相同程度的偏振损伤的情况下,本文所改进的AEKF方案比EKF降低了 ldB的OSNR代价。