偏振模色散被认为是限制高速光纤通信系统(≥10Gb/s)进一步发展的主要因素之一，是当前光通信领域的一个研究热点。本论文主要从实验角度研究了偏振模色散自适应补偿的关键技术，包括反馈信号的提取技术、自适应控制算法和补偿器结构的构成等，并实现了在多种传输系统中偏振模色散自适应补偿的实验；最后对能缓解偏振模色散的码型调制技术进行了初步探讨。论文的主要工作包含以下几个方面： 一、PMD的基本理论●系统地介绍了三种偏振光的表示方法以及相互关系；偏振器件的琼斯传输矩阵以及相应的米勒矩阵。 ●分析了偏振模色散的起因；介绍了偏振模色散的重要研究模型—偏振主态模型。●给出了偏振模色散的定义及级联法则。 ●概括介绍了偏振模色散的各种补偿方案。 二、反馈信号的理论和实验研究●理论推导了光偏振度与差分群时延的变化关系，实验上实现了单偏振态偏振度取样，并证实了单偏振态偏振度与系统码率无关。 ●推导了偏振度椭球的基本公式，并对一些特殊情况进行了讨论；实验采集了偏振度椭球，给出了两种从偏振度椭球获取偏振模色散信息的方法。 ●介绍了电域频率分量电功率法 三、控制算法的研究●详细阐述了粒子群优化算法(PSO)的基本原理及拓扑结构。 ●实验比较了全局邻居结构的PSO算法(GPSO)和局部邻居结构的PSO算法(LPSO)在一阶段补偿器和两阶段补偿器中的搜索效果，结果表明：对于在多自由度空间求解极值问题时，LPSO对比GPSO更占优势。 ●将GPSO算法用作偏振模色散跟踪算法，实验证实跟踪效果良好。 四、PMD补偿补偿理论和实验研究●介绍了一阶段补偿器和两阶段补偿器的结构构成及补偿理论。 ●完成在多种光纤通信传输系统中偏振模色散自适应补偿的系列实验，包括10Gb/s和40Gb/sRZ码系统中一阶偏振模色散自适应补偿、10Gb/sNRZ码和RZ码系统中二阶偏振模色散自适应补偿、40Gb/sRZ码系统中二阶偏振模色散自适应补偿。 五、对能缓解偏振模色散的码型调制的初步探讨●介绍了RZ码、CSRZ码、RZ-DPSK码及CSRZ-DPSK码等各种调制码型的产生方法。 ●比较了各种码型的性能。