近年来，随着高速模数转换(ADC)，数字信号处理(DSP)技术取得了长足发展，使相干光检测技术不仅能提高接收机的灵敏度，而且能保持光纤色度色散和偏振模色散对信号影响的线性，因而适合作为长距离光纤通信系统的检测方案。偏振复用技术在不改变光纤链路的情况下，增加发射机和接收机的复杂度，使得系统传输容量翻倍。正交频分复用(OFDM)技术因其抗色散能力以及可降低接收机对电域均衡速率的要求，在光纤通信系统中得到广泛应用。偏振复用相干检测与正交频分复用相结合，增加了系统的灵活性，已经被业内认可为下一代100Gb/s光传输技术的最佳选择。而在偏振复用相干检测光正交频分复用系统(PDM-CO-OFDM)众多的数字信号处理技术中，信道估计是其中较为重要的一项技术，是偏振解复用的重要前提。目前广泛使用的最小二乘(LS)信道估计算法虽然复杂度低，但是抗噪能力较差，需要进行改进以提高信道估计的准确性。本文主要分析了PDM-CO-OFDM系统的原理，研究了光纤信道对信号的损伤和串扰。介绍了信道估计相关技术，并针对基于LS信道估计的缺陷提出了一种基于离散导频的联合降噪方案。主要工作内容如下：(1)首先构建光OFDM系统模型并阐述其原理，之后在此基础上重点研究PDM-CO-OFDM系统及信道模型，并分析了高速传输时群速度色散、偏振模色散、偏振相关损耗对PDM-CO-OFDM系统信号的损伤和串扰；(2)其次对信道估计技术进行了阐述说明。对几种常用的信道估计的估计准则及插值算法的性能进行了MATLAB仿真，仿真结果表明LS算法和线性插值算法性能虽然不是最优，但其实现简单；为了使系统开销小，频谱资源利用率达到最大，本文通过多次仿真实验选取了一种最优的离散导频图案；(3)然后在VPI中搭建了40Gb/s CO-OFDM系统，进行了基于优化离散导频的信道估计，并联合MATLAB实现了不同信道下信道估计性能的仿真。仿真结果证明，即使光纤信道快变时，该方法也能很大程度地减小系统开销，降低系统的误码率；在系统开销相同的情况下，该方法与常规的离散导频、块状导频相比，系统性能分别有大约0.9dB和1.8dB的提升；(4)最后在VPI中搭建了80Gb/s PDM-CO-OFDM系统，针对LS信道估计技术的缺陷，在优化离散导频的基础上提出了基于多小波去噪和符号内频域平均去噪的联合降噪方案，并在VPI和MATLAB联合仿真中进行验证。仿真结果证明，本文所提出的基于多小波去噪和符号内频域平均去噪的联合降噪方案，与传统的LS信道估计性能相比有大约0.96dB的改善，光信噪比在14.4dB左右即达到前向纠错码的误码上限10-3的要求。