随着云计算、物联网、大数据时代的到来，人们对数据流量井喷式增长的需求，无疑对作为信息通信网络基础的传输系统的传输性能提出了更高的要求。大容量、超高速率、超长距离的传输系统成为下一代宽带信息网络发展的主流。　　正交频分复用技术由于其较高的频谱效率、抗信道损伤的鲁棒性等特点而被广泛的应用于光通信领域，加之相干检测与数字信号处理(DSP)技术，相干检测光正交频分复用(CO-OFDM)因其能有效地抵抗信道中的线性损伤而备受推崇。偏振复用(PDM)是一种能够在保持信号带宽不变并且不大幅增加系统复杂度的情况下，平稳的将系统容量提升一倍的复用技术。因此PDM CO-OFDM被视为100G及其更高速率的光纤传输系统的有力候选方案。而OFDM系统中的非线性效应损伤成为制约其发展的重要因素，亟待解决。本文以CO-OFDM系统中的非线性损伤补偿方法为研究对象，在了解了相关技术背景和理论支持后，基于112Gb/s PDM CO-OFDM系统进行了一系列仿真研究，具体的研究内容以及取得的相关成果如下所述:　　(1)首先研究了OFDM技术的相关原理，并介绍了光CO-OFDM系统的组成及其实现方法，学习并了解了PDM技术，利用VPI和MATLAB软件搭建112Gb/s PDM CO-OFDM系统基本仿真平台。　　(2)围绕CO-OFDM系统的光纤非线性损伤及其补偿方式展开研究。首先系统学习了CO-OFDM系统中光纤非线性效应的理论原理，然后调研了非线性补偿的方式，并确定了中间链路光相位共轭(OPC)进行光域非线性损伤补偿作为研究主题。　　(3)基于112-Gb/s PDM CO-OFDM系统，进行Eb/No算法估算误码率(BER)的研究。建立起Eb/No的理论模型，并针对光信噪比(OSNR)，发射功率，链路中的色散以及非线性损伤等因素进行了一系列仿真。对比了采用蒙特卡洛(Monte Carlo)和Eb/No两种算法估算BER的结果。有效地证明了Eb/No算法的估算效率。　　(4)理论分析了中间链路OPC补偿链路非线性损伤的工作原理及其实现机制;然后主要针对112Gb/s PDM CO-OFDM系统中采用中间链路OPC补偿非线性的方法进行仿真研究。同时对比了中间链路OPC在单载波偏振复用QPSK(SC-PDM QPSK)系统中的补偿效率。充分说明CO-OFDM系统更加适合采用中间链路OPC对非线性损伤进行补偿，可将发射功率有效提高2.5dB，传输距离延长800km。