随着DWDM系统中复用信道数量的增加,信息容量快速增大,无误码传输时信号所需要的信噪比也越来越大,但过高信噪比会导致严重的非线性效应,这些非线性效应最终限制了系统的总的容量。光纤中最主要的非线性效应来源于折射率依赖于强度的变化(克尔效应),尤其是信道间和信道内的四波混频效应(FWM)。研究DWDM系统中FWM效应的影响及非线性容限是一个重要课题。本文的主要工作如下:为了有效评估四波混频噪声的影响,基于OptiSystem平台,提出一种有效的非线性分离模型。相对于传统的仿真模型,利用该分离模型能够对四波混频噪声导致的Q参数值的劣化程度进行分析。基于上述非线性分离模型,仿真搭建了33信道、信道间隔为50GHz的DWDM传输平台。该仿真平台中心信道为探测信道且采用正交差分相位调制格式(DQPSK)。仿真平台使用了三种调制方案:第一种为所有信道都采用DQPSK调制格式,第二种为偶数信道采用DQPSK调制而奇数信道采用差分相位调制格式(DPSK),第三种为偶数信道采用DQPSK调制而奇数信道采用开关键控调制格式(OOK)。基于上述仿真平台,分析了常规色散补偿光纤链路与新型色散管理光纤链路的传输特性。采用非线性分离模型,研究四波混频噪声对系统性能损伤程度及总的非线性容限。