随着数码信息技术的广泛应用和相关技术的深度开发,物联网对于信息传输速率和信道容量的需求近年来呈现指数增长的趋势。为此,作为通信网络的主干光纤通信来说,人们对于它的通信容量,尤其是长距离传输的通信容量提出了一系列的挑战。所以,研发新的光纤通信技术,有效提升通信容量成为当务之急。本文主要以长距离光传输系统为研究对象,将相干光检测与正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)调制技术相结合的相干光正交频分复用(Coherent Optical Orthogonal Frequency Division Multiplexing,CO-OFDM)光纤通信技术作为研究目标,重点研究光纤传输过程中所产生的非线性效应对CO-OFDM传输系统造成的影响,以及利用光域相位共轭(Optical Phase Conjugation,OPC)技术对这种非线性干扰进行补偿。通过设置对比实验来验证理论分析的结果。具体研究内容有以下几方面:(1)通过理论分析,构建CO-OFDM传输模型,确定CO-OFDM传输系统的关键技术模块,包括射频OFDM发射机、电光调制模块、传输链路、光电检测模块和射频OFDM接收机五大模块。阐述了搭建CO-OFDM传输系统所需的基本实验软件和平台。(2)分析光纤在传输过程中产生的非线性效应以及这些非线性效应对CO-OFDM传输的影响,包括自相位调制(Self-Phase Modulation,SPM)、交叉相位调制(Cross Phase Modulation)和四波混频(Four-Wave Mixing,FWM)等光纤非线性效应的特性。然后,通过实验验证以上非线性效应对CO-OFDM信号传输质量的影响。实验结果显示非线性效应对基带信号的质量以及系统性能都有着很大的损伤影响。(3)围绕如何补偿光纤非线性效应对CO-OFDM信号传输的影响展开研究。从光域补偿的角度出发,将OPC技术应用到CO-OFDM传输系统中,设置对比实验,对OPC补偿方法中的Q因子与传输距离、发射功率等关系进行分析,实验结果显示运用OPC技术补偿系统可以将最大Q因子的值有效提高约3dB,基带信号误码率提升近2个数量级,验证了OPC补偿方法能够有效的降低非线性效应,提高系统性能。