随着移动互联网、物联网、云计算、大数据等新技术的爆发式增长,新兴业务对网络容量的需求持续高速增长。光纤通信系统是现代通信网络的骨干网络,承载了主要的信息传输,因此也需要不断扩容。传统基于强度调制/直接检测(IM/DD)的光传输系统虽然调制解调简单、成本低,可是因为不包含信号的相位信息,会使得调制格式和传输速率受到限制;相比而言,相干光传输系统则包含了相位信息,可以采用多种高频谱效率的高阶调制格式。相干接收机的高灵敏度可以提高传输距离,同时能在电域使用数字信号处理(DSP)技术补偿传输链路中的传输损伤。综上所述,相干光传输系统是大容量、长距离传输系统的首选。光性能监测技术在维护系统正常运行和故障管理方面起到重要的作用,因为它可以提供有关传输链路质量和光信号健康程度的精确信息。光信噪比(OSNR)与误码率(BER)有着关联关系,能够用来衡量系统的传输质量。因此OSNR作为光性能监测的重要参量之一,OSNR监测技术得到了广泛的重视。传统点对点波分复用(WDM)系统假设噪声频谱均匀的情况下,由于相邻波长之间的信道保护间隔大于信道带宽,可以使用基于线性插值技术的带外OSNR监测方案。随着高速相干光通信系统和动态光网络的迅速发展,为了提高频谱利用率,WDM系统的信道保护间隔越来越小,基于线性插值的带外OSNR监测技术不再适用,也使得OSNR监测从带外监测转向带内监测。带内OSNR监测技术是利用放大自发辐射(ASE)噪声和信号有不同特性来分离信号功率和噪声功率,直接测得噪声功率,从而得到系统的OSNR监测值。在相干光通信系统中,随着传输距离的增大,需要更大的信道发送功率来克服光纤损耗。可是更大的信道发送功率会导致系统更高的非线性效应,故而高非线性效应的传输系统环境也不可避免。高非线性效应使得传统带内OSNR监测除了ASE噪声,还包含了非线性噪声,所以传统带内OSNR监测技术不再适用,因此研究高非线性条件下有效的OSNR监测方案有着重要的意义。系统采用高阶调制格式提高频谱效率的同时需要更高的OSNR,由于非线性效应的存在,一味提高OSNR反而会导致系统容量降低,影响系统性能。非线性效应限制了光纤传输系统的容量。因此,研究非线性效应的监测方案和抑制方案是提高大容量、长距离光纤传输系统性能的关键课题。综上所述,本论文研究了非线性效应的监测方案、非线性效应的抑制方案,并针对高非线性条件下单信道PM-QPSK系统、单信道PM-16QAM系统、波分复用PM-16QAM系统,研究了有效的OSNR监测方案。本论文的研究内容和研究结论分为以下两个方面:(一)非线性效应研究方面研究内容:相干光传输系统的引入使得线性损伤可以使用DSP技术进行补偿。传输系统的非线性损伤限制了系统的容量。随着人们对容量、频谱效率、传输距离需求的增大,系统的非线性效应成为下一代光纤传输系统中急需解决的关键问题。本论文首先在单信道PM-16QAM系统中研究使用信号的相关函数和校正因子的乘积来表示非线性噪声,以此分离非线性噪声和通过多阶统计矩的OSNR监测方案测得的总噪声,从而得到非线性效应的监测方案。和基于误差矢量幅度校正的非线性效应监测方案(EVM-ACF)相比,该方案可以在同等条件下得到更小的非线性监测误差。同时本方案探索了校正因子和传输距离以及发送功率的比例关系式。针对非线性效应的抑制问题,本论文在高阶调制系统中,研究了一种定长、可逆、低复杂度的基于常数变换的编码器和译码器来实现概率整形的非线性抑制方案。编码器和译码器采用字典序分布匹配的思想,将长度固定为k的0/1分布随机序列映射到指定概率分布P4(ai)、幅度值为ai、长度固定为m的一串符号序列,映射后的符号序列集是按字典顺序连续排列的。通过采用高斯噪声(GN)模型模拟非线性噪声,进行多信道多跨段长距离光纤信道仿真。比较了概率整形与均匀分布的系统性能,为下一步更好研究非线性效应的抑制方案提供了一种思路。研究结论:1.本文研究使用信号的相关函数和校正因子来校正高阶统计矩OSNR监测方案,在单信道PM-16QAM系统中监测系统的非线性效应,并探索了校正因子和传输距离以及发送功率的比例关系式。2.本文研究了一种定长、可逆、低复杂度的基于常数变换的编码器和译码器的概率整形方案,有效抑制系统的非线性效应。(二)光信噪比监测方面研究内容:本论文首先在高非线性条件下单信道PM-QPSK的系统中,使用信号幅度噪声的相关函数来校正高阶统计矩的OSNR监测方案。该方案使用信号幅度噪声和校正因子的乘积来表示非线性噪声,以此分离非线性噪声和利用高阶统计矩OSNR监测方案中测得的总噪声,来得到OSNR监测误差值,且提出了该校正因子与传输距离和发送功率的关系式,并得到很好的验证。本方案实现了在高非线性条件下准确的OSNR监测。本论文接着在高非线性条件下单信道PM-16QAM系统中,使用信号的相关函数来校正多阶统计矩的OSNR监测方案。该方案使用信号的相关函数和校正因子的乘积来表示非线性噪声,以此分离非线性噪声和通过多阶统计矩的OSNR监测方案测得的总噪声,最后得到OSNR监测误差值,且提出了该校正因子与传输距离和发送功率的关系式,并得到很好的验证。本方案实现了在高非线性条件下准确的OSNR监测。此外,本论文对于PM-QPSK系统和PM-16QAM系统的仿真结果进行了对比和分析。本论文最后在高非线性条件下PM-16QAM-WDM系统中,使用各偏振态和相邻信道上的自相关函数及互相关函数对基于多阶统计矩的OSNR监测方案进行校正,以此分离非线性噪声和通过多阶统计矩OSNR监测方法测得的总噪声,来得到OSNR监测误差值。并首次探索和证明了自相关函数和互相关函数之间的权重因子和信道发送功率、传输距离与信道数目之间的公式关系。本方案实现了在高非线性条件下准确的OSNR监测。研究结论:1.在高非线性的PM-QPSK系统中,使用信号幅度噪声的相关函数和校正因子来校正高阶统计矩的OSNR监测方案,且提出该校正因子与传输距离和发送功率的关系式并验证该关系式在不同仿真条件下都有很好的适用性。2.在高非线性的PM-16QAM系统中,直接使用信号的相关函数(而不是信号幅度噪声的相关函数)和校正因子来校正多阶统计矩的OSNR监测方案,且提出该校正因子与传输距离和发送功率的关系式并验证该关系式在不同仿真条件下都有很好的适用性。3.在高非线性的PM-16QAM-WDM系统中,使用各偏振态和相邻信道上的自相关函数及互相关函数对基于多阶统计矩的OSNR监测方法进行校正,探索证明自相关函数和互相关函数之间的权重因子和信道发送功率、传输距离和信道数目之间的公式关系,并在不同的仿真条件下验证得到该公式有很好的适用性。本论文从光纤非线性效应出发,研究了非线性效应对系统的影响,在单信道PM-16QAM系统中,研究使用基于信号的相关函数和校正因子的乘积来分离高阶统计矩OSNR监测方案中测到的总噪声和非线性噪声,得到有效的非线性监测方案;研究了一种定长、可逆、低复杂度的基于常数变换的编码器和译码器来实现概率整形的非线性抑制方案;在高非线性条件下单信道PM-QPSK系统中,研究了一种基于信号幅度噪声的相关函数校正的高阶统计矩的OSNR监测方案;在高非线性条件下单信道PM-16QAM系统中,研究了一种基于信号的相关函数校正的多阶统计矩的OSNR监测方案;在高非线性条件下PM-16QAM-WDM系统中,研究了一种基于各偏振态和相邻信道上的自相关函数及互相关函数校正的多阶统计矩的OSNR监测方法。本论文的研究结果对高速光纤通信系统中非线性监测与抑制,以及OSNR监测等有参考价值。