由于正交频分复用技术有出色的抗色散性能及较高的频谱利用率，因此在光纤通信系统中受到广泛关注。偏振复用相干光正交频分复用系统（PDM-CO-OFDM)将偏振复用技术及相干光正交频分复用技术相结合，成为高速通信传输系统中主要应用方案之一。在PDM-CO-OFDM系统中，高精度的信道估计是其关键技术之一。近年来，一种符号内频域平均（ISFA)算法因其能够有效消除噪声对信道估计影响而引起关注，然而该算法只有一个可控参数，算法效果有限。本文针对PDM-CO-OFDM系统中的信道估计进行研宄，利用凯撒窗对IS F A信道估计算法进行改进，该算法增加了一个可控参数，旨在不额外增加训练符号的前提下，进一步提高信道估计精度。　　主要内容如下：　　首先就国内外对偏振复用相干光正交频分复用系统的研宄现状进行了论述，分析了PDM-CO-OFDM通信传输系统原理，给出了PDM-CO-OFDM通信传输系统的系统模型，并分析了其中涉及到的主要技术。并利用V P I软件搭建了PDM-CO-OFDM系统，分析了系统中存在的非线性效应，并利用仿真平台进行了仿真实验，验证了光功率增加及传输距离增长时非线性效应对系统传输性能的影响。　　其次，对基于导频的PDM-CO-OFDM的信道估计技术进行了研宄。针对传统的LS算法估计后需要进行时域插值的缺陷，采用符号内频域平均算法对估计结果进行处理，符号内频域平均算法相当于对信道估计结果通过矩形窗函数进行平滑处理，但处理效果有限，因此本文基于凯撒窗对符号内频域平均算法进行改进，即增加可控参数，使得窗函数的形状和长度都可调整。并首次利用基于Kaiser窗的符号内频域平均算法对系统中的非线性效应进行补偿，旨在进一步改善信道估计的平滑效果。　　最后，利用上述在V P I仿真平台中搭建的PDM-CO-OFDM系统，选定合适的仿真实验参数，测试不同信道估计方法的性能。并通过联合仿真筛选合适的改进符号内频域平均算法的两个参数。仿真结果证明，本文采用的基于Kaiser窗的符号内频域平均算法，与直接信道估计性能相比有大约1.05dB的改善，比符号内频域平均算法性能相比有大约0.11dB的改善，光信噪比在14.85dB左右可达到前向纠错误码率上限的10-3的要求。