光纤损耗和色散是光纤通信向前发展的主要限制因素，随着光放大器和各种色散补偿技术的采用，这两种因素的影响得以减小或克服。随着传输速率和距离的增加，动态随机变化的光纤偏振模色散(PMD)成为系统性能的主要限制因素之一。相敏光放大器(PSA)由于光增益的相敏特性，不仅能够放大光脉冲的能量，而且还具有相位滤波功能，即能够抑制光脉冲的展宽。因此，PSA不但能够补偿光纤的损耗，而且能够“补偿”包括PMD在内的光纤色散。 本论文主要研究了高速率系统中PSA对PMD的补偿效果。首先，从麦克斯韦方程出发，介绍了描述偏振模色散对传输光脉冲影响的耦合非线性薛定谔方程，采用分布傅立叶求解耦合非线性薛定谔方程，给出了采用PSA和EDFA的系统模型。接着，通过计算机系统仿真，研究分别采用EDFA和PSA作为在线放大器，仅考虑不同大小光纤偏振模色散(忽略光纤群速度色散(GVD)及非线性效应)时在不同的传输速率下系统的传输性能。研究结果表明，不同系统速率和不同偏振模色散下，采用PSA作为在线放大器的系统性能优于EDFA系统性能。对20Gbit/s系统研究表明，在较小PMD情况下，PSA系统优于EDFA系统有限;在较大PMD情况下，PSA系统性能明显优于EDFA系统。对40Gbit/s系统研究表明，其结果与20Gbit/s系统正好相反。最后，在考虑GVD、PMD、高阶色散、非线性和自相位调制的40Gbit/sPSA传输系统中，着重研究了系统参数和放大器参量(输入脉冲占空比、输入光功率、光纤群速度色散、光放大器的增益和间距、放大器中泵浦光和信号光之间的相位漂移等)的变化对高速率PSA光纤通信系统传输性能的影响。仿真得到了系统平均Q值随不同参量的变化曲线，得到特定情况下的最优值。研究结果表明，使用归零码系统的性能要优于使用非归零码的系统。放大器增益的微调有助于系统性能的提高。无论PSA有无相位漂移，系统性能总是随着PMD的增大而迅速下降。同时，相位漂移引起系统性能的劣化，相位漂移越大，则系统性能劣化越严重。当相位漂移控制在0.075π内时，系统性能的恶化是可以接受的。 总之，通过对高速率系统中PSA补偿PMD研究，得到了一系列有价值的结论，对今后PSA在高速率传输系统中的实际应用提供参考价值。