由于光纤的结构的不完美性、外界应力及环境和双折射等现象所产生的偏振模色散(PMD)在当前高速率光纤通信系统中已经成为限制系统传输性能和进一步提高传输速率的重要障碍。而同时由于PMD随外界条件和传输速率的不同而表现出的统计随机性,使得补偿的实现变得非常困难。因此如何解决PMD补偿已经成为光纤通信系统中的热点问题。本文围绕光纤中的偏振模色散这一重要效应展开研究,下面是本论文完成的主要工作。1.全面研究并比较了各种PMD光域补偿方案,在考虑到现有实验室条件和补偿系统中用到的各种器件等因素后,首先选取了用电功率作为反馈信息的后馈补偿方案,完成了一阶PMD动态补偿系统实验,从而为设计进一步提高PMD动态补偿能力的控制算法提供了实验依据。2.对光偏振度(Degree of Polarization, DOP)作为PMD补偿的反馈控制信息进行了相关的理论和实验准备工作,完成了DOP作为反馈控制信息的一阶PMD动态补偿系统,得到了很好的实验效果,并把该系统的全部控制模块移植到了DSP上,摆脱了原有实验系统必须依赖计算机的控制,实现了PMD补偿系统实用化的要求。3.通过对反馈信号、实验现象以及补偿器各部分工作原理的分析和实验研究,改进了原有控制算法并提出了一种新颖的PMD自适应抖动跟踪补偿算法。该算法具有收敛速度快,避免陷入局部极值点,减少线路信号的瞬间恶化以及抗噪声干扰性强等特点。补偿的响应时间能达到ms量级。