近几年来,随着光纤通信系统的传输速率不断提升,光纤传输系统中的各种损伤对系统性能的限制作用也更加明显。传统的解决办法是采用光器件进行传输损伤补偿或抑制,但是成本高昂,而且易受外部环境干扰。随着半导体技术的高速发展,硅芯片的处理速度有了极大的提升,因而将数字信号处理技术应用于光纤通信系统中进行损伤补偿成为一个新的研究热点,主要研究的技术有直接检测系统中的电均衡技术、相干检测系统中的数字信号处理技术、以及光正交频分复用(OOFDM)系统中的数字信号处理技术。本文的研究内容集中于离散傅立叶变换扩展(DFT-S)的相干光正交频分复用(CO-OFDM)系统中的信道均衡及信道估计问题,上述系统也称为相干光单载波频分复用(CO-SCFDM)系统。　　 光信号的检测可以分为直接检测(Direct detection)和相干检测(CoherentDetection)。使用相干检测,光信号的所有信息包括幅度、频率、相位及偏振均转化为电信号,因此可以完全用电处理来进行解调。CO-OFDM结合了相干检测和OFDM调制技术的优点,光谱效率高,子载波灵活控制,适应面更广,对于信道色散和数据速率具有更优的可度量性,通过利用直接上行/下行转换,接收机的电域带宽要求得到很大程度的减小。DFT-S的CO-OFDM系统又称为相干光单载波频分复用系统(CO-SCFDM),它结合了CO-OFDM与CO-SCFDE(单载波频域均衡系统)的优势,能够有效降低OFDM系统中峰均比(PAPR)过大的问题。本文重点研究了使用Overlap频域均衡(Overlap FDE)方式的CO-SCFDM系统,同时还研究了多种信道估计算法的性能比较。　　 本文的主要内容如下:　　 (1)实现了Overlap MMSE FDE算法,首次将其应用于CO-SCFDM系统中,实现了无循环前缀CO-SCFDM系统。　　 (2)对单波带Overlap CO-SCFDM系统进行了仿真和实验研究。仿真通过星座图、BER-色散曲线证明了此系统的有效性,并分析了Overlap长度以及OSNR对系统的影响。仿真发现在相同的Overlap长度及循环前缀长度下,Overlap SCFDM系统与加循环前缀系统具有类似的抗色散能力及非线性容限。Overlap长度增加,系统性能更好。Overlap SCFDM系统传输谱效率更高,但更容易受噪声影响。实验实现了10Gbit/s QPSK320km传输,证明了此系统方案的可用性。与循环前缀为16的系统相比,传输谱效率从1.49bits/Hz提高到1.587bit/s/Hz。　　 (3)仿真分析了正交波带复用(OBM)的Overl印CO-SCFDM系统的色散及非线性性能。与单波带系统类似,Overlap系统具有与加循环前缀系统一致的抗色散能力。实验实现了10Gbit/s QPSK320kin传输,验证了OBM OverlapSCFDM系统方案的可行性,与循环前缀为16的系统相比,传输效率从1.12bit/s/Hz提高到1.32bit/s/Hz。　　 (4)以原有(最小二乘)LS信道估计方法为基础,实现了子载波取平均(ISFA)、线性最小均方误差估计(LMMSE)、基于DFT的变换域、DFT和ISFA联合的信道估计方式。仿真分析了使用不同信道估计方法得到的误码率(BER)与光信噪比、激光器线宽、非线性条件的关系曲线。经过比较得知ISFA、LMMSE、DFT变换域及DFT ISFA信道估计方法比LS方法更能抵抗信道中的加性高斯白噪声,但对相位噪声作用有限。实验证明在10Gbit/s QPSK传输过程中,无论是背靠背还是经过320km链路传输,新引入的信道估计方法均比LS信道估计具有更优的性能。