为了进一步提高光纤通信的容量和频谱效率,以应对爆炸式日益增长的数据业务要求,基于相干探测的正交频分复用(CO-OFDM)的波分复用(WDM)系统受到了广泛的关注。此类系统对实现“太比特以太网”有重要意义。由于基于CO-OFDM的WDM系统相对较窄的子信道间隔和较多的子信道数,光纤中的非线性效应特别是四波混频(FWM)对此类系统影响会比较严重,理论研究和仿真评估这些非线性效应的对系统性能的影响程度对此类系统的优化设计有重要意义。本文主要围绕OFDM的循环前缀、色散管理方案以及入射光偏振状态来对CO-OFDM的WDM系统进行非线性容限的理论与仿真研究。具体的工作内容如下:1、介绍OFDM和WDM的原理及优势,描述色散管理对非线性效应的抑制作用。将OFDM与单载波传输系统在不同影响下进行比较,充分显示了OFDM的优势并对其非线性进行研究。2、由于CO-OFDM系统性能更好,非线性效应以FWM为主,本文主要研究以FWM为主的非线性效应对CO-OFDM的影响。将单信道下功率预加重技术与WDM下载波填充算法进行比较。模拟得知WDM的性能较优,为进一步研究CO-OFDM的WDM系统奠定基础。3、基于OptiSystem和Matlab,搭建CO-OFDM的WDM系统,采用非线性分离模型控制FWM噪声的加入。仿真了FWM在不同长度的循环前缀下对系统的影响,得出其长度最佳值为最大时延扩展。在不同传输速率,复用间隔和信道数下研究FWM对系统的影响和系统的非线性容限,凸显新型光纤链路的优势。为了进一步研究偏振态的作用,在原基础上搭建不同色散补偿链路,来研究以FWM为主的非线性效应对系统的影响。