在光通信领域,相干光通信传输系统一直是的研究热点。在之前的通信系统中,经常使用强度调制,相对应的在接收端使用直接检测技术。但是,现在远距离光纤通信系统中一般使用的是相位调制。相位调制是指将基带信号调制到光信号的相位上,相应的在接收端使用差分接收技术或相干接收。因此,本文所设计的系统也属于相干接收这一领域。为了保证信息能够可靠传输,定时恢复算法应该具有非常高的可靠性和稳定性。在通信系统中,定时信息提取的精确与否占有举足轻重的地位。研究信号的时钟同步算法就具有重要的实际意义因为它的好坏直接关系到整个系统的误码率性能。但是时钟恢复算法一般运算量特别大,复杂度非常高,因此,需要研究特定的算法,才能够满足光纤通信系统的需求,以及高速光纤通信系统对速度的高要求[1]。本文针对2个采样点/符号或更高采样率的数字接收机,提出了一个新的使用定时估计联合均衡的反馈符号定时恢复技术。提出了数字接收机具有两个样本/符号或更高的采样率。本文的时钟恢复算法与经典方法不同,采用了相邻符号分相的算法,根据相邻信号符号差异采用不同的定时检测算法来精确地估计定时偏差。该算法也表明,通过在定时估计前增加信道均衡模块,可以进一步减小干扰,从而得到平滑的时钟估计。再对所得时钟估计的MSE和BER进行仿真,得到了较好的估计性能。针对MQAM调制格式和滚降系数(ROF)值接近0的情况,都得到了良好的时钟性能。在背靠背系统中当ROF=0,使用我们所提算法后的MSE最大值为0.0125。经过了 100km光纤系统之后,滚降因子为零,信噪比为11dB时,BER降到10-3。随着滚将因子的升高,MSE与BER的性能更好。本文的研究内容和主要创新点如下所示:(一)本文对基于相干光通信的传输系统进行了设计,对发送端和接收端的关键模块,即调制/解调模块、偏振复用/解复用模块,进行了深入研究。其中包括偏振复用等关键器件研究等。对基于相干光通信的定时恢复环路进行了研究设计,对前馈式定时恢复与反馈式定时恢复结构进行了深入研究。对时钟恢复环路的关键模块,即内插滤波器、数控振荡器、环路滤波器和定时检测器模块,进行了深入研究。(二)研究了光纤通信系统中传输链路上的损伤因子,包括偏振模式色散和色度色散等对有用信号造成的影响,并基于系统链路分析进行了公式推导,得出系统中传输链路的理论模型,并进行了相关仿真验证。(三)本文提出了一种新的时钟恢复算法,即反馈双相定时恢复(FDPT)算法,它与经典算法不同,该算法采用了相邻符号分相的方式,根据相邻信号符号的差异采用不同的定时检测算法来精确地估计定时偏差。该定时检测算法适用于奈奎斯特系统,使其对滚降因子的敏感度大大降低,具有较好的性能。(四)本文提出了联合信道均衡并移除信号相位中信息干扰的方案。基于传输系统的链路分析,涉及了一种联合信道均衡的时钟恢复环路,在光通信系统的接收端,时钟恢复环路中加入了色散补偿及MIMO均衡,以减少色度色散与偏振模式色散对信号的时钟恢复的影响。与此同时,针对分相定时算法还加入了移除相位干扰的方案,以减少其对时钟恢复算法的干扰。