Gordon-Mollenauer(G-M)效应是信号和放大器的自发辐射(ASE)之间的非线性作用引起的。ASE是一种线性的幅度噪声,通过自相位调制转换成相位噪声。该非线性相位噪声引起的相位随机性旋转,给相位调制解调光系统带来极大的损伤。G-M效应自1990年被Gordon和Mollenauer提出后,人们对其产生机理、对系统影响以及补偿方法进行了深入的探讨和研究。但是过去的研究多是针对单载波相位调制系统,对于多载波系统,尤其是OFDM信号的系统分析和深入研究屈指可数。光正交频分复用系统是将无线通讯中先进的OFDM技术引用到光通信中,它具有传输容量高、频谱利用率高、抗色散能力高等优点。是当今超高速、大容量、长距离光通信中的一个研究热点,是未来光网络的主要发展方向之一光OFDM系统由于其较高的PAPR和严格的正交性要求,势必对非线性相位噪声非常敏感,因此G-M效应是OFDM系统中不可忽略的一项损伤。本论文以CO-OFDM系统中的G-M效应为研究对象,从研究G-M效应的产生机理入手,通过搭建CO-OFDM系统的仿真平台,深入研究和分析OFDM系统中的G-M噪声对信号的影响和变化,主要研究内容和成果可以分为以下几个部分：(1)在研究G-M噪声产生的机理基础之上,通过理论分析和公式推导相结合,深入研究CO-OFDM系统中的非线性相位噪声。(2)根据G-M效应的本质和特性,探索G-M噪声的研究方法,将非线性相位噪声和链路中的其他噪声分离,以便更好地观察其在不同的条件下对系统的影响。(3)用仿真软件搭建速率为112Gb/s的PDM-OFDM仿真平台,研究在不同的链路参数配置下,G-M噪声对系统的影响；并和相同容量的QPSK系统进行了对比。(4)结合仿真研究和理论分析,总结出CO-OFDM系统和QPSK系统在不同的系统参数、不同的光纤链路以及不同的色散管理方式下,G-M效应的变化以及特性。