相干光正交频分复用(CO-OFDM)具有优秀的抗色度色散与抗偏振模色散能力,是未来超高速、长距离光传输系统的强有力竞争方案之一。然而,相干解调对于系统中的激光相位噪声十分敏感,因为随机的相位转动会导致公共相位误差与载波间干扰,这是相干光正交频分复用系统研究的焦点之一。本论文围绕CO-OFDM通信系统中影响传输质量的噪声及其应对方案展开研究,重点研究了抑制系统公共相位噪声与载波间干扰的各种算法。通过仿真研究对比分析了各算法的优缺点,改进并提出了新的算法。本文的主要研究内容与成果如下:1)本论文简单介绍了CO-OFDM通信系统的应用背景,技术优势与研究现状。对相关技术原理,特别是对研究中所用到的专业知识做了必要的阐述。2)利用Opti System软件构建了一个CO-OFDM的仿真通信系统,结合matlab模块实现、仿真并研究了多种噪声抑制算法,通过大量图表数据分析对比了其优缺点。3)针对CO-OFDM通信系统中的公共相位噪声,提出了一种无迭代的盲估计算法。算法巧妙地构建了一个无限接近三角函数的代价函数,从而利用三角函数解析式的特征,通过少数取值点解出相位误差值,避免了其他盲算法常用的复杂迭代计算。大量仿真数据证明,无迭代的盲算法也能够有效地补偿相位误差。4)针对CO-OFDM通信系统中的载波间干扰噪声,提出了一种判决辅助的时域均衡算法,巧妙地将频域预判决与时域分组均衡这两种方法结合。提出判决门限,只使用正确概率高的判决数据,从而减少错误判决被采用的次数。在10Gbit/s的16QAM CO-OFDM系统进行了数据仿真,本算法可以有效地补偿系统中的ICI噪声。在较高激光器线宽与高光信噪比的条件下,本算法有明显优于同类时域ICI均衡算法(Avg-BL-ICI)的性能而额外开销不多。