近年来,由于信息流量的激增导致网络带宽的需求产生了爆炸式的增长,促使光纤传输技术不断向高速率方向发展。传输容量的大幅度升级意味着更严重的信号传输损伤,因此对系统的性能提出了更高的要求。随着集成电路技术和数字信号处理(DSP)技术的发展,实现相干检测(Coherent detection)光通信的客观条件逐步成熟,基于电均衡技术的相干光通信系统成为研究的热点。　　 目前比较主流的两类相干光通信系统有单载波时域均衡(SC-TDE,Singlecarrier time domain equalization)和正交频分复用(OFDM,Orthogonal frequencydivision multiplexing)两类。SC-TDE技术具有单载波传输体制的优点,具有较低的峰均比(PAPR,Peak-to-average-power-ratio),而OFDM技术因为采用频域均衡方法,具有较高的灵活性。两种技术各有利弊,因此这两类系统的竞争问题一直是研究的热点。结合CO-SCTDE与CO-OFDM的优点,一种相干光单载波频域均衡(CO-SCFDE,Coherent optical-frequency domain equalization)系统被提出。CO-SCFDE系统结合了相干检测、单载波调制以及频域均衡技术的优势,本文主要围绕CO-SCFDE光纤传输系统进行讨论,通过仿真和实验两种途径对系统的传输性能进行研究。　　 本文的主要内容如下:　　 (1)对CO-SCFDE系统与CO-OFDM系统的传输性能进行比较,建立统一的比较标准,包括发射机/接收机结构、基带信号处理方法以及帧结构等,并在20Gbit/s和100Gbit/s两种传输速率下,对系统的色度色散和非线性传输性能进行仿真验证。仿真结果显示两种系统有着相当的抗色度色散能力,而CO-SCFDE系统由于采用单载波调制,其非线性性能优于CO-OFDM系统。　　 (2)分析了100Gbit/s的CO-SCFDE传输系统在使用NRZ成型、RZ成型、升余弦滤波成型三种脉冲成型方式下的色度色散和非线性传输性能,结果表明三种成型方式各有利弊,经过升余弦滤波脉冲成型的信号由于带宽小,色度色散性能较优,RZ成型的色度色散性能最差,而经过升余弦滤波成型的信号PAPR较高,因此非线性传输性能较差,RZ成型的非线性传输性能较优。　　 (3)采用三个光子载波完成了120Gbit/s偏振复用的CO-SCFDE系统317km传输实验。详细介绍了QPSK发射机的原理、帧结构的设计以及偏振复用结构的实现等,实验分析了载波的频率间隔对中间载波传输性能的影响,以及经过3171an光纤链路传输后三个载波在不同OSNR值下的Q值曲线,结果显示中间载波受到相邻载波的干扰比其他两个子载波严重。　　 (4)实现单个光子载波的96Gbit/s偏振复用的CO-SCFDE系统317km传输实验。介绍了Q路信号的产生方法、帧结构的设计等系统实现原理,详细阐述了通过观察眼图、星座图等进行系统调试的过程,给出系统经过317kin光纤链路传输后的OSNR代价。