随着社会信息化水平日益提高以及新型互联网数据业务不断兴起,海量数字内容对信息传输带宽和效率提出了更为严苛的要求。正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)技术在光纤通信中的应用是提升光纤通信传输频谱效率的重要可选技术路线之一。相干光检测与OFDM技术的结合一方面推动了超高频谱效率光纤通信的发展,同时可能为未来光网络提供灵活的带宽管理潜力。因此,相干光正交频分复用(Coherent Optical OFDM,CO-OFDM)技术对于未来可重构光网络有着其独特的技术优势,各国家研究人员均展开了相关研究探索工作。本文主要开展多输入多输出(Multiply Input Multiply Output,MIMO)CO-OFDM系统接收机关键模块算法及系统传输性能方面的研究。本文首先在研究窗口同步的前提下,对比恒零包络自相关(Constant Amplitude Zero Auto-Correlation,CAZAC)序列作为系统前导训练序列的窗口同步算法与Schmidl&Cox窗口同步算法等,结果证明CAZAC序列能够提高系统在窗口同步上的性能,同时探讨了系统载波频偏估计算法的各个步骤。本文仿真分析对比了时域平均和频域平均的信道估计算法,采用添加前导训练序列对系统进行色度色散和偏振模色散的估计。通过仿真研究了在光信噪比、算法参数以及不同损伤下的系统开销和性能提升结果。对比了偏振模色散估计时所用训练序列结构和算法的不同对系统信道估计性能的影响。在相位噪声估计模块,仿真采用添加导频方式进行估计,结果表明可以满足系统仿真需求。最后本文整合并仿真研究MIMO-CO-OFDM系统仿真模型,在接收机数字信号处理算法框架内,分别采用基于CAZAC序列的窗口定时及频偏估计算法,使用训练序列的频域平均信道估计算法以及基于导频的相位噪声估计算法。基于设计的系统仿真模型,研究分析了激光器线宽、光信噪比、差分群速度时延、色散参数下的接收机误码率性能,同时针对光纤链路参数优化了信道估计模块的窗口长度,仿真计算了色度色散及激光器线宽等引起的光信噪比代价。本文建立的仿真模型及得到计算结果,对于基于正交频分复用光通信系统设计及性能优化有着一定的参考意义。