该论文从偏振模色散的理论分析出发,全面系统的研究了偏振模色散的特性,分析了它对高速光通信系统的影响,详细讨论了偏振模色散的补偿技术.该论文的工作主要包括以下几方面的内容:一、PMD的特性研究;系统介绍了有关偏振光的基本概念、表示方法,PMD的起因,研究模型和国内外的研究进展情况.详细介绍了研究PMD的主态模型和级联双折射光纤的数值模型;推导出动态方程,国内首次利用数值法解PMD的动态随机方程,数值证明了PMD随距离的变化规律和一阶PMD的统计分布规律,并给出了偏振态在邦加球上的演化规律.国内首次利用修正的琼斯传输矩阵法研究了一阶及高阶PMD的统计特性,得到一阶及二阶PMD的各个分量的统计分布规律,并得到了PMD矢量对频率的自相关特性;研究了PDL存在条件下的一阶PMD分布.用偏分孤子法测量了10.3公里DCF和25公里单模光纤级联后的DGD,自建2.5Gb/s的偏分孤子测量系统,实验测得的DGD符合Maxwell分布.二、PMD对系统性能的影响;系统介绍了研究PMD对光通信系统影响的解析法和数值方法;首次利用解析法研究了线性系统中PMD、GVD和光源啁啾三者联合作用对高斯脉冲宽度的影响,分析了两种一阶补偿器的效果,深入讨论了预啁啾技术对减小PMD影响有效的条件.利用级联的双折射光纤模型研究了PMD对系统的故障概率的影响,国内首次比较了40Gb/s的NRZ码系统在无PMD补偿、一阶固定补偿、一阶可变补偿、两阶段补偿以及三阶段补偿几种情况下的故障概率,给出了特殊PMD影响下的眼图变化.介绍了研究PMD的耦合非线性薛定谔方程(CNLS)方法和Manakov法,介绍了研究WDM系统中PMD影响的解析和数值方法.三、PMD的补偿技术;系统的介绍了各种减小PMD影响的方案,详细介绍了PMD补偿的方案.首次分析了一阶后补偿器补偿小PMD和大PMD时的两种工作模式,提出了两阶段补偿器补偿高阶PMD的工作方式,数值评价其性能.指出补偿大偏振相关色散的必要性,首次提出能够同时补偿二阶PMD两个分量的三阶段PMD补偿器,分析了其补偿二阶PMD的原理,提出了补偿二阶PMD时的两种工作方式,数值比较了两阶段和三阶段补偿器的误码性能和故障概率.介绍了利用冲击响应法设计光传输网络的方法,国内首次利用这种方法研究了5段等长度补偿器拟合250GHz频率范围内琼斯传输矩阵的效果.研究比较了用偏振度和电带宽信号作为反馈信号的性能,首次提出了利用光带阻滤波器提高40Gb/sNRZ码系统中三维偏振度椭球对PMD灵敏度的方法,数值结果表明滤波器的带宽应限制在10GHz以下.分析了两类偏振控制器的工作原理,用斯托克斯矢量分析方法找出了其实现任意偏振态之间相互转换的条件.研究了PMD补偿的数学模型,指出了对补偿算法的要求;介绍了PSO算法的原理和邻居个体组的拓扑结构;首次提出用PSO算法多阶段PMD补偿的搜索算法,并分别对6、10、20个自由度的情况进行了数值计算,结果表明PSO算法是多阶段补偿器的一个强有力的搜索算法.首次利用PSO算法在实验上实现了2.5Gb/s和10Gb/sRZ码系统的PMD补偿.