近年来,随着高带宽业务的不断兴起,为满足用户日益增长的数据传输需求,骨干光网络正朝着大容量、动态可重构和透明化的方向不断发展。由于动态可重构、透明光网络的中间节点缺乏光-电-光再生功能,光信号在传输过程中受到的物理损伤将不断累积,导致光信号的传输质量（Quality of Transmission,QoT）不断劣化,在目的节点处无法满足业务要求。因此在部署一条新光路前,必须评估待部署光路的QoT以充分地利用网络物理层资源,减少网络的余量。另一方面,光性能监测（Optical Performance Monitoring,OPM）是一种用来评估光网络性能和限制因素,特别是物理损伤的技术。来自OPM的监测数据使得光网络管理系统能够通过考虑路由波长分配期间源和目的节点之间的各种链路中的实时信号失真来实现损伤感知路由波长分配算法,以提高QoT。此外,OPM提供的特定信道的物理状态有助于在两个传输端之间自动协商网络组件的最佳配置,从而实现更灵活、可扩展、可靠和高效的网络操作。基于以上背景,本论文围绕光网络中的QoT估计技术和OPM技术,针对相关的工作原理、仿真和实验验证开展了一系列的研究,主要的创新成果如下:（1）提出了一种基于机器学习的QoT估计技术,该技术采用跨段数、跨距长度、调制格式、比特率以及信道入纤光功率作为机器学习模型的输入特征向量,对待部署光路的QoT进行估计。通过搭建波分复用传输仿真系统对基于K最近邻、对数几率回归和支持向量机的QoT估计技术的性能进行了仿真验证。仿真结果表明,基于支持向量机的QoT估计技术具有最佳的性能。（2）提出了一种基于高斯过程回归的光信噪比（Optical Signal-to-Noise Ratio,OSNR）监测技术,该技术利用宽带、中心波长可调谐光带通滤波器对信号进行滤波,将采集到的光功率序列作为输入特征向量,实现OSNR监测。通过搭建9×32GBaud PDM-16QAM、9×32GBaud PDM-QPSK/16QAM/64QAM等传输系统,进行了实验验证。实验结果表明,该OSNR监测技术能够实现高精度、调制格式透明的监测,对于色度色散、偏振模色散、非线性效应以及级联滤波效应具有一定的鲁棒性,并且无需提供待监测信号的传输距离、入纤光功率以及所经历的波长选择性开关个数等先验信息。此外,该技术还具有低成本、适用于中间节点监测的优点。（3）在上述成果（2）的基础上,进一步提出了一种基于多任务人工神经网络的OPM技术。类似地,该技术利用宽带、中心波长可调谐光带通滤波器进行滤波,将采集到的光功率序列作为输入特征向量,同时实现OSNR监测、入纤光功率监测以及波特率识别。通过搭建9×10GBaud QPSK和9×32GBaud PDM-16QAM传输系统,进行了实验验证。实验结果表明,该OPM技术使用一个多任务人工神经网络代替了3个单任务模型实现了对3个OPM参数的同时监测,大大降低了复杂度。除此之外,该OPM技术无需提供待监测信号的传输距离等先验信息,就能够实现高精度OSNR和入纤光功率监测以及高准确率波特率识别,具有对调制格式透明,对色度色散、偏振模色散以及非线性效应具有一定的鲁棒性,低成本,适用于网络中间节点的优点。