第五代移动通信技术的研究目前成为整个通信行业的热点。作为5G技术候选波形之一,OFDM/OQAM具有频谱效率高、旁瓣泄露少、可以通过成型滤波器的可重构特性来抵消ISI和ICI等众多优点。而光载无线通信技术融合了无线通信以及光纤通信等优点,为未来5G的商用提供了基础。本文主要工作是研究分析了OFDM/OQAM信号在光纤承载网中的传输,通过搭建仿真系统分析本技术的优势,为光纤承载网中传输OFDM/OQAM信号的工程应用提供一定的参考。首先,本文研究了5G物理层候选技术之一的OFDM/OQAM技术,分析了光载无线通信的三种传输方案,在Matlab环境中对OFDM/OQAM与OFDM两种多载波技术进行了性能对比。其次,本文通过VPI仿真系统与Matlab相结合搭建了基于OFDM/OQAM技术的光纤系统仿真平台,详细的阐述了搭建的每一个步骤及实现原理。仿真结果证明了5G信号采取OFDM/OQAM调制技术的优越性。同时本文还分析了系统不同参数对信号传输的影响并通过仿真证明在未来的5G商业过程中,光纤承载网的应用将具有不可替代的作用。最后,针对基于OFDM/OQAM技术的光纤系统中光纤色散以及信号峰均功率比高的问题,本文提出三种改进方案。为了降低光纤色散对系统的影响,光域上采取了色散补偿光纤来改进系统。仿真结果表明,系统有效传输距离提高了20km。然而色散补偿光纤造价昂贵,不适合推广。因此电域上针对系统提出了改进的信道估计相关算法,仿真结果表明,系统有效传输距离提高了10km。同时,针对于OFDM/OQAM系统中峰均比较高的问题,本文提出一种基于DFT扩频OFDM/OQAM信号的方法来改进。仿真结果表明,系统的峰均比改善了将近2dB。仿真结果为未来5G承载网提供了参考意义。