随着人们对大容量、长距离的通信系统要求的不断提高,40Gb/s的光纤通信系统已经逐渐开始从实验室走向商用。随着容量和距离的增加,非线性效应对光纤通信系统传输性能的影响越来越突出,而采用DPSK调制方式被认为是降低非线性效应影响的一项重要的技术。本文主要研究了DPSK光纤通信系统的非线性效应问题。为了对DPSK光纤通信系统非线性效应问题进行研究,本文提出采用补偿线性效应,降低线性效应对系统影响的方法。利用OptiSystem软件对系统进行仿真,设计了单信道DPSK光纤通信系统,观察自相位调制(SPM)对系统传输性能的影响;设计了多信道DWDM系统,观察信道间交叉相位调制(XPM)、四波混频(FWM)对系统传输性能的影响。本文首先对DPSK光纤通信系统的理论基础进行了讨论;然后,建立DPSK光纤通信系统理论模型,通过OptiSystem软件平台模拟40Gb/s光纤通信系统,设计单信道DPSK光纤通信系统传输系统,分别输入RZ-DPSK信号与CSRZ-DPSK信号,比较了不同入纤功率的仿真结果,确定了最优的入纤功率和阈值功率;接着比较了不同距离单信道系统RZ-DPSK与CSRZ-DPSK的Q值、误码率与眼图,得出了RZ-DPSK与CSRZ-DPSK抵抗SPM差不多的结论;最后,设计基于DWDM的DPSK光纤通信系统模型,比较在8信道和16信道中,不同传输距离RZ-DPSK与CSRZ-DPSK的Q值、误码率与眼图,结果表明,CSRZ-DPSK抵抗XPM,FWM性能优于RZ-DPSK,更适合应用于DWDM系统。