近年来,伴随着光纤通信系统比特距离积的不断增加,一阶偏振模色散(PMD)对系统性能的影响逐步显现。尤其是当单通道传输速率达到160Gb/s以上时,高阶PMD也无法忽略。因此,高阶PMD补偿是超高速光纤通信系统必须解决的难题。本文首先对一阶和二阶PMD补偿器的结构和补偿原理进行了研究,分析了目前采用的PMD补偿算法的优点和不足,采用一种效率更高的组合算法——DIRECT算法+Hooke & Jeeves算法作为PMD补偿器的优化算法。DIRECT算法是全局搜索算法,Hooke & Jeeves是局部优化算法,采用DIRECT算法寻找全局最优解,采用Hooke & Jeeves算法来跟踪全局最优解的变化。通过比较各种编程语言的优缺点,采用C语言和汇编语言的结合来编写DIRECT算法程序。文中编写的DIRECT算法程序具有通用性,不仅可以用于一阶、二阶和高阶PMD补偿中,也可用于其它全局最优化问题。分析了挤压光纤、机械式和光电偏振控制器的特点,结合实际光纤线路PMD的变化规律,择优选择补偿器件、补偿器控制电路和误差信号提取器件。PMD补偿器采用光路补偿结构,控制单元由TMS320C6711DSK实现,外围的偏振控制器和反馈信号采集单元(POD-001)通过FPGA来控制。数值测试了DIRECT算法全局搜索能力,在偏振模色散补偿器中测试并验证了DIRECT算法和Hooke & Jeeves算法的结合作为补偿器算法的有效性。