偏振模色散(PMD)是光纤通信系统中由于不同偏振模式传播速度不同而引起的脉冲展宽现象，并由此限制光纤通信系统的码率和中继距离的提高。解决PMD问题是实现高速光纤通信系统的关键之一，也是近年来光纤通信领域研究的热点之一。PMD补偿是解决PMD影响的有效方法，其中的最大困难在于偏振主态(PSP)和差分群延迟(DGD)变化的随机性。本论文对PMD补偿系统进行了深入的研究，下面是本论文完成的主要工作。 首先，研究了偏振摸色散的概念和数学描述方法，通过实验观察到了由PMD引起的脉冲展宽现象。全面研究了PMD补偿系统的各种方案及特点，在此基础上，我们确定了以DOP作为控制信息的PMD前向反馈动态补偿系统的方案。 分析了偏振控制器的种类及典型应用，详细研究了四波片电控偏振控制器PC-412的组成结构及工作原理，并推导了该偏振控制器的琼斯矩阵和穆勒矩阵。在此基础上，定量地研究了波片控制电压与相位延迟量之间的关系以及偏振控制器对光偏振态的影响，并进行了大量的实验验证了理论分析的正确性。以PC-412为核心器件，编辑了一套控制算法，设计并实现了能够使输出光偏振态和光功率稳定的偏振稳定器。据我们所知，该工作在国内尚属首次。 推导了任意波形和任意高斯脉冲序列的偏振度(DOP)与差分群延迟(DGD)的关系。研究了伪随机m序列码输入下的DOP-DGD曲线，理论分析并实验验证了不同脉冲宽度及分光比对DOP-DGD曲线的影响。理论分析了PMD对不同偏振态的影响，通过在发射端安装扰偏器并分析接收端偏振态的方法确定了线路中PMD的偏振主态(PSP)。实验证明了这种确定PSP的方法的可行性。