随着科学技术的不断发展,大宽带业务开始如雨后春笋般出现。尤其是移动通信技术、大数据以及视频会议等,网络中用户需求的种类的多样性导致了带宽需求量的爆炸式增长。光通信系统的容量不断增加,并且光网络的体系结构本质上不断变得更加复杂,透明和动态。弹性光网络由于比波分复用系统更加灵活的频谱分配机制引发了极大的关注。由于弹性光网络发射端内在的动态特性,都会使得系统参数随光纤链路条件、用户需求的变化而动态改变。此外,基于少模光纤的模分复用传输系统引起了相当大的关注,这使得光网络架构更加复杂。在这种情况下,为采取适当的损伤补偿算法,更有效地分配网络资源,光性能监测（Optical Performance Monitoring,OPM）被认为是未来基于单模和少模的弹性光网络的共同需求。进行OPM时,调制格式（Modulation Format,MF）、光信噪比（Optical Signal to Noise Ratio,OSNR）作为光性能监测的关键参数,是人们研究关注的重点。本论文围绕弹性光网络系统中的光性能监测关键技术展开研究,主要研究内容概括如下:1.针对单模EON系统,提出了一种适用于EON的低计算复杂度的盲调制格式识别方案,该方案将改进的粒子群优化（Improved-Particle Swarm Optimization,I-PSO）聚类算法与二维Stokes平面相结合。I-PSO的主要思想是在每个粒子上增加一个新的属性----视野,并限制每个粒子仅能与其相邻粒子通信,从而实现对s2-s3平面密度图像上多个簇（即局部极值）数量的正确判断。通过28GBaud偏振复用（Polarization Division Multiplexing,PDM）-BPSK/QPSK/8QAM/16QAM/32QAM/64QAM仿真弹性光网络系统和28GBaud PDM-QPSK/8QAM/16QAM/32QAM概念验证传输实验,验证了该方案的有效性。结果表明,使用该方案达到100%调制格式识别成功率时,这6种调制格式的最小光信噪比值均等于或低于相应的7%前向纠错（Forward Error Correction,FEC）阈值。同时,这种方案对残余色散和差分群时延也有很好的容忍度。此外,该方案在-2～+6d Bm发射功率范围内实现了100%的调制格式识别。更重要的是,它的计算复杂度可以低至O（N）量级。2.针对少模传输系统,提出了一种基于多任务神经网络的联合调制格式识别与OSNR监测方案。该方案考虑了6种空间模式,包括LP01、LP11a、LP11b、LP21a、LP21b和LP02,选用PDM-BPSK/QPSK/8QAM/16QAM/32QAM/64QAM等6种常见调制格式的星座图作为输入特征送入多任务神经网络,通过搭建VPI仿真系统初步验证了该方案的有效性。仿真结果表明:对于调制格式识别任务,本方案对于LP01、LP11a、LP21a三种空间模式训练集的准确率分别在116次、122次和110次迭代后达到99%,而相应测试集准确率分别在146次、148次和151次迭代后达到99%;对于OSNR监测任务,LP01、LP11a、LP21a三种空间模式训练集的MAE分别在146次、152次、163次迭代后达到了0.32d B、0.33d B、0.28d B,相应测试集的MAE分别在151次、149次、181次迭代后达到了0.32d B、0.35d B、0.30d B。这些结果表明,这种基于多任务学习的联合监测方案对训练集和验证集都具有良好的泛化能力,实现了良好的调制格式识别和OSNR监测结果。