光正交频分复用(OOFDM)技术是正交频分复用(OFDM)技术在光通信系统中的一类新型技术。相干光正交频分复用(CO-OFDM)技术是OOFDM技术中的一类，相干光通信和OFDM之间相互促进，OFDM使相干系统具有较高的计算效率且易于进行信道和相位估计；相干系统引进了射频到光以及光到射频的上下变频，满足OFDM所需的线性关系。因此近年来在光通信领域CO-OFDM成为了研究热点。峰值平均功率比（PAPR）过高是CO-OFDM的一个主要缺陷。本论文提出了基于分数阶傅里叶变换(FRFT)的CO-OFDM系统来解决这一问题。通过理论的分析以及公式推导得到了FRFT抑制PAPR的原理，并利用Matlab和Optisystem软件搭建了基于FRFT的CO-OFDM系统，通过实验仿真验证了这一结果的正确性。在此基础上，又分析了传统PAPR抑制算法的不足，而一些结合算法并不能互补这种不足。由此又提出了基于FRFT的结合抑制算法，通过结合两种不同类别的PAPR抑制算法，从结合的兼容性，抑制高PAPR效果以及改善引入抑制算法后对系统的负面影响三方面进行仿真分析。实验得出，采用选择性映射算法与FRFT结合后，旋转因子同为4时，PAPR高于6.6dB的概率较单一选择性映射算法低104；选取高PAPR抑制情况相近时，结合算法的时间复杂度相比单一选择性映射算法降低了8倍；采用限幅算法与分数阶傅立叶变换结合的仿真情况也较单一限幅算法有很大提高，这说明算法结合的兼容性良好。本论文以CO-OFDM系统为研究中心，主要内容如下：1.对CO-OFDM技术的发展现状、研究意义以及系统中相关技术的基本原理进行了详细的阐述。重点讨论了CO-OFDM系统PAPR值过高的原因以及高PAPR给系统带来的负面影响。2.提出了一种新型的算法来抑制PAPR，即FRFT算法。并利用Optisystem和Matlab软件依据该算法搭建了基于FRFT的CO-OFDM系统进行联合仿真。详细的分析了该算法对PAPR的抑制原理，并通过仿真实验进行验证，最终的仿真结果与理论上的推导相吻合，表明FRFT算法能够有效抑制系统的PAPR，并且不会引入其他影响。结合这种算法提出了一种在光路分析PAPR的方法，采用这种方法可以从光时域信号上观测叠加信号的高峰值，依据FRFT不会影响信号均值功率的前提下，对比不同阶数下信号PAPR的抑制情况。3.针对一些PAPR抑制算法会对系统引入其他负面影响的问题，对一类常规的算法结合方式进行分析，讨论了这类算法的有效性与局限性。然后以两类不同抑制算法为例与FRFT算法结合，从结合的兼容性，抑制PAPR效果以及改善引入抑制算法后对系统的负面影响三方面进行仿真分析。结果显示，这类PAPR抑制算法通过与FRFT结合，能够有效削弱算法本身对系统造成的损伤；而对于一些PAPR抑制能力不突出的算法，通过与FRFT结合可以有效增强其PAPR抑制能力；理论上这种算法结合不存在兼容性问题，仿真采用的两类不同算法与FRFT的结合均能有效工作。