随着如今人工智能(Artificial Intelligence,AI)的蓬勃发展,AI已经在各行各业承担起了十分重要的任务。而作为以机器学习为代表的新一代强大的智能分析工具,更是成为了现在各个研究领域必不可少的课题之一。随着现在互联网的大规模普及,大数据已经成为这个时代的标签之一,但是其中大部分的数据都是冗余无用的,因此需要将核心的数据特征高效地提取出来才是关键。如果用传统机器学习方法,比如K最近邻、或者支持向量机等,是难以驾驭如此庞大的数据分析任务的,因此深度学习登上了历史舞台。深度学习是一种实现机器学习的优秀技术,它使机器学习能够应用于更广泛的场景中,主要表现在神经网络本身的突破创新。而在光纤通信中,系统参数的监测是一个十分重大且急迫需要解决的问题之一,这一类任务统称为光学性能监测(Optical Performance Monitoring,OPM)。但是目前为止,在该领域利用深度学习方法来试图解决这个问题方面的研究相还是相对较少。由于传统的OPM方法它们的监测精度和监测效率都十分有限,并且所需的设备复杂度和人工成本都较高,因此传统的基于通信本身的监测方案已逐渐被取代。与此同时,深度学习由于其强大的特征拟合和参数预测能力,已经在逐步地运用于OPM中,并且由于其不错的监测效果以及训练速度,也受到了业界广泛的关注和研究。本论文主要是同时从仿真和实验两种方案上,针对两类主流的光纤通信系统中的部分光信号参数进行了基于深度学习的高精度监测以及使用迁移学习方法来辅助深度神经网络(Deep Neural Network,DNN)用于监测的方法的改善研究。首先尝试将深度学习与光学性能监测结合来提高参数监测的速度和精度,同时测试了信号在不同外部干扰状态下时DNN的监测容忍度。首次提出了利用迁移学习技术来辅助深度学习解决这一问题并加快DNN在多种应用场景下的重新建模方法,实验结果表明所提方案能够成功降低所需的训练数据量并加快其训练速度。最后本文还首次尝试使用自编码器来替代传统幅度直方图用于数据特征提取的方案,测试结果发现该方案的确能够在一定程度上完成性能监测任务。