光正交频分复用（OFDM）技术由于其在频谱利用率、色散容忍性等方面的优势受到广泛关注，已经作为一种新型的调制和频域复用技术被广泛应用于光通信。光OFDM技术可以有效克服多模光纤高频区域的频率选择性衰落，并通过自适应调制优化系统传输性能，最大化利用频谱资源。光OFDM技术可以与高阶调制，偏振复用（PDM）和波分复用（WDM）等多种技术结合，提高单纤传输容量，已经成为未来高速、长程主干光纤传输系统最重要的发展方向之一。基于OFDM技术的接入网技术频谱利用率高，接入容量大，支持透明传输，能够实现不同粒度的资源调度，灵活的在时域和频域进行资源的划分，满足不同业务的带宽需求和服务质量（QoS）要求，已经成为极具吸引力的多用户接入手段。本文针对光OFDM技术在光纤通信相关领域，如多模局域网传输、单模光纤传输、接入网等几个方面的应用，分析和研究光OFDM技术光纤传输中所需解决的若干关键问题，为实际系统设计和实用化提供重要参考。本文主要创新工作概括如下：1、提出一种可变长保护间隔的自适应调制光正交频分复用（AMO-OFDM）多模光纤传输系统。通过差分群时延与不同调制格式下的信噪比门限确定循环前缀（CP）的上限和下限取值，采用可变长循环前缀的方式优化系统频谱利用率。2、在单模直接探测光正交频分复用（DDO-OFDM）系统中，研究了DDO-OFDM应用于高速长距离传输的若干关键问题，提出一种采用梳状导频格式，等间隔的插入导频子载波，通过线性插值的方法估计出非导频子载波的信道响应，时域平均后实现信道估计的方法。搭建Hermitian结构的DDO-OFDM系统实验平台，传输6Gb/s的信号，在背靠背和传输50km单模光纤下，验证了线性插值与时域平均信道估计方法的可行性，与理想信道估计相比，几乎没有带来系统性能损伤。仅采用线性插值时，所需接收光功率有2dB的提升。同时，通过搭建RF-tone插入的DDO-OFDM系统，分别从仿真和实验上验证了所提信道估计方法的可行性。仿真中，20Gb/s信号在背靠背和400km传输下，采用所提信道估计与理想信道估计相比，几乎没有OSNR损伤。仅采用线性插值方法，OSNR有近2dB的损伤。实验中，RF-tone插入的DDO-OFDM系统，传输6Gb/s信号在背靠背和25km传输后，进一步验证了仿真中的结论。3、针对多频带相干光正交频分复用（CO-OFDM）系统在太比特传输中的应用，仿真实现基于光频梳的CO-OFDM系统中，32×40Gb/s信号在光纤中传输1000km。由于基于光频梳CO-OFDM系统中各频带间的时间和激光器相位信息上的相关性，提出一种采用傅里叶变换（FFT）窗同步用于信道估计和共享导频子载波估计出的激光器相位信息减少多频带CO-OFDM系统开销的方法。仿真结果表明，除去循环前缀，仅有不到1%的系统开销用于1Tb/s多频带CO-OFDM系统时，仍可以实现1000km的传输。4、针对光OFDM技术也可以作为一种频域复用技术，与波分复用技术（WDM）相比具有更高的频谱利用率，提出一种基于光傅里叶变换/光傅里叶逆变换（OFFT/OIFFT）的方法实现OOFDM信号中光子载波的光分插复用（OADM）功能的方法，可以用于基于光OFDM技术的光网络中。通过搭建基于光OFDM技术的偏振复用-正交相移键控（PDM-QPSK）系统仿真平台，验证了该方法的可行性。仿真结果表明，OOFDM信号中光子载波相互正交且同步下，基于OFFT/OIFFT的方法可以实现OOFDM信号光子载波的上、下路和复用。5、利用光OFDM技术在物理层上的优越性，将OFDM技术应用于无源光网络（PON），提出一种基于光正交频带复用和统一接收的上行OFDM-PON传输方案，并从理论仿真和实验上验证了该方案的可行性。在10Gb/s上行传输系统中，对不同光网络单元（ONU）的同步方法、时延容忍性、激光器线宽以及ONU间的功率起伏对系统传输性能的影响等进行了研究和仿真分析。通过搭建实验平台验证了基于光正交频带复用和统一接收的上行传输方案，得出两个ONU可容忍的时延为2倍CP时间间隔的结论。进一步地，每个ONU单元通过非均匀子载波分配和自适应调制技术，可以实现弹性带宽的OFDM-PON上行传输。