目前,随着三维视频通信、云计算、5G通信和虚拟化数据中心等多种新型宽带网络应用的普及以及密集波分复用、光时分复用、多模并行光纤等新技术的迅速发展,人们对网络流量信息的需求急剧增加,对光通信网络带宽、传输距离及智能化水平等特性提出了更高的要求。通过以上技术的应用与普及,光网络所承载的数据速率越来越大,传输距离越来越长,网络结构越来越复杂,而超高符号速率和长传输距离的光网络性能很大程度上取决于链路和光网络中的其他组件对信号的损伤程度。因此为了降低光网络运行成本、确保资源的最佳利用、保证动态光网络的充分运行和管理以及实现复杂光网络中的节点合理分配网络资源和实时的故障位置反馈,必须要对光纤网络进行智能化管理以及连续地监测各种网络性能参数。光性能监测（OPM）技术在维护网络性能和配置网络资源等方面发挥着至关重要的作用。本文针对高速光网络信号的光性能监测关键技术研究,主要完成工作以及创新有以下几点:（1）高速光网络信号的压缩采样及监测模型构建。目前光纤信号处理领域面临着高速和超高速符号速率进行奈奎斯特采样的挑战。为了解决传统采样定律对采样速率的约束,提出一种采样压缩二合一的基于压缩感知的采样方法。压缩感知技术将数据采集和数据压缩集成一起,从而有效降低了对采样率的要求。然后基于Optisystem和Matlab软件搭建了诸如OOK、QPSK、16QAM三类典型光纤信号监测模型,通过在可靠、高效的光学仿真系统中对光纤信号性能监测关键参数进行动态调整和性能分析,这对于光性能监测技术在后续的具体参数评估提供技术支撑。（2）提出一种基于高阶累积量、循环谱和决策树孪生支持向量机的光纤信号调制格式识别方法。为了合理利用网络资源和满足不同数据需求,未来光纤通信系统以多种调制格式和传输速率混合的形式存在将成为常态。为了满足自动化、透明化的光性能监测需求,在监测的初始阶段就需要首先完成光纤信号的调制格式识别。为了实现在没有任何先验知识情况下的光纤信号盲识别,本文首先提出了基于高阶累积量和循环谱的特征提取技术,并结合压缩感知理论直接获取压缩采样值作为特征参数,避免了对原始信号的重构,节省了计算成本。然后通过利用决策树结构的高效计算能力和孪生支持向量机的高精度分类提出决策树孪生支持向量机分类器,实现了常见的六类高速光纤信号的调制格式识别,在5d B时整体识别精度达到100%,并且评估了不同参数对识别精度的影响。（3）提出了针对高速相干光通信系统的光信噪比最优估计方法。光信噪比是衡量传输链路质量和系统性能的重要参数之一,有利于快速切换保护路径,实现链路故障定位。在未来可重构动态光网络中,光信噪比与接收端的误码率关系紧密,并且对符号速率和调制格式具有良好的透明特性,而且光信噪比还可以实现动态可重构光网络的管理、分配和完善。针对偏振复用光纤信号PM-QPSK和PM-16QAM,首先通过在相干接收端获取不同光信噪比下的幅度直方图信息作为原始数据集,然后通过改进的二进制粒子群算法得到等价的稀疏数据集,有效地实现数据执行和数据降维。最后将稀疏数据集输入到粒子群优化的深度神经网络结构中,通过粒子群优化神经网络结构的权重和阈值,得到两种信号的平均估计误差均未超过0.25d B,证明了该方法可以实现精度较高的OSNR估计。（4）提出了针对高速光纤信道色散参数的快速精确估计方法。未来光通信网络中会存在各种新型调制格式和超百吉比特混合使用的情况,并且随着光纤链路的不断扩大,链路中的色散值会呈现急剧增长。另外由于色散具有动态随机特性,就必须要对链路中和接收端的的色散进行补偿和实时监测。针对这一情况,本文提出一种精确且低复杂度的基于分数阶傅里叶变换的色散估计方法,可以跟踪在未来动态和灵活场景中随时间变化的累积色散。首先根据线性调频信号在特定分数阶域上的谱峰特性,对频域的色散监测进行类比,然后通过设计最优阶次搜索方法获取变换阶次最优值并依此计算PM-QPSK和PM-16QAM光纤通信系统中色散估计误差的平均值和标准差分别为34ps/nm、54ps/nm和37ps/nm、53ps/nm,最后评估了不同损伤对色散估计精度的影响。