正交频分复用技术以其较强的色散容忍度等优势而成为了下一代高速光传输系统中的一种非常有潜力的核心技术。现阶段有两种主要的光正交频分复用技术：直接探测(?)OFDM技术和相干探测(?)OFDM技术,其中相干探钡(?)OFDM已经被广泛应用于长距离光纤通信网络。和直接探测(?)OFDM技术相比,相干OFDM技术有着许多的优势。这篇论文的目的就是从理论和实验上探讨一种长距离光传输系统中相干OFDM技术中的相位噪声抖动补偿理论得益于高效的数字信号处理技术,相干光OFDM接收技术使得物理层的损伤补偿变得可能,这些损伤包括光色度色散、偏振模色散、本振相位噪声和采样时钟抖动。后面两个损伤都是造成相位噪声抖动的主要原因。其中,采样时钟抖动是用来描述在数模转换器中采样时钟的误差导致的相位噪声。而本地振荡器的相位噪声则是由于发射端激光器和接收端激光器的随机时钟抖动而产生的。理论研究表明本振光的相位噪声和采样时钟误差会相互转换,因此能够很方便地设计出满足设计初衷的最佳系统和数据转换效率。基于导频设计和前向最大似然估计方法,本论文提出了一种新型相位噪声抖动的补偿算法。仿真结果表明,本振光的线宽直接影响着接收端信号的质量,而且相比较而言,4QAM有着比16QAM,256QAM信号更好的传输性能。为了进一步提高接收机的性能,我们在同步机制中引入了MMSE算法。仿真也证明,在基于导频的前向最大似然估计(PA-FF-ML)算法中使用MMSE算法可以获得比直接使用简单的PA-FF-ML算法更好的传输性能。本论文通过仿真建立了RMSE算法中导频符号的数量和滤波器的抽头数量的关系。此外,本论文还搭建了OFDM系统实验验证平台并证明了仿真结果的正确性。在没有使用任何色散补偿技术的前提下,本论文成功将速率为10Gbps的16QAM-OFDM信号传输了25公里长的单模光纤,并获得了非常好的传输性能.