近年来,随着用户对高速数据、图像和宽带流媒体等业务需求的不断增长,光纤通信已经越来越多地应用在更高速率和更长传输距离的数据传输系统中。伴随着半导体激光器和光电器件性能的高速发展,尤其是高速信号处理技术的发展,使得光通信越来越成为人们关注的焦点。其中相干光通信具有高频谱效率和高灵敏度的独特优势,这是其他通信方式不能相比的地方;传输信号的高阶调制格式,可以充分利用信道的频带,提高频带利用率。将信号高阶调制格式和相干光通信加以结合,实现高调制格式的相干光通信传输系统,这在高速数据传输中有相当大的研究价值。然而在光通信的实现过程中,光纤传输对光信号会产生一些影响,如光纤的损耗特性、色散特性和非线性效应等,这些光纤传输特性会直接影响到最终光信号的传输质量和传输距离。通过仿真探索各种损伤机制对信号的影响从而设计合理的补偿方案是提高光纤传输质量的有效手段,也是光纤通信需要重点研究的内容。本课题结合了相干光通信、非线性光纤光学和通信原理相关理论,研究了 16QAM信号在相干光通信系统中的调制传输技术,重点研究了光纤对信号的各种传输效应。基于对光纤传输效应的分析,搭建完成了完整的相干光通信系统,并利用MATLAB软件仿真实现。从仿真结果中得到了光纤的损耗、色散和非线性效应分别对传输信号产生的影响。