为了适应迅速发展的信息时代,相干光通信技术变得越发复杂。随着可重构发射机的出现,相干接收机向着自适应方向发展,因此光调制格式识别技术的研究得到了广泛的关注。目前调制格式识别中应用最广泛的算法有神经网络和k-means等,神经网络属于监督式学习算法,但训练成本高;k-means属于非监督式学习算法,无训练成本但必须要提前确定k值。在此前提下,本文引入了非监督式学习算法中国餐馆过程(Chinese Restaurant Process,CRP)和迭代自组织数据分析算法(Iterative Self-organizing Data Analysis Techniques Algorithm,ISODATA)进行调制格式识别。两种算法不仅没有训练成本,还在k值选取上变得更加灵活。主要研究工作如下:1.阐述了相干光通信系统结构以及光调制格式识别一般流程。利用OptiSystem 和 MATLAB 搭建了比特率为 112Gbit/s 的 BPSK、QPSK、8PSK、8QAM和16QAM的相干光通信系统。2.研究了斯托克斯空间表征下基于CRP算法的光调制格式识别技术。仿真分析了调制格式识别率与OSNR、符号数量、光源线宽、传输距离和入纤功率下的关系,验证了该调制格式识别技术的可行性。3.研究了最小二乘拟合平面表征下基于ISODATA算法的光调制格式识别技术。仿真分析了不同调制格式在不同OSNR、符号数量、光源线宽、传输距离和入纤功率下的识别率,验证了所提光调制格式识别技术的可行性。由于增加了最小二乘拟合平面,整体均比CRP算法识别效果高。4.对比研究了 CRP算法、ISODATA算法和传统k-means算法的调制格式识别性能。结果表明,CRP算法和ISODATA算法的识别效果均优于k-means算法;ISODATA算法对PSK信号的识别效果优于CRP算法;CRP算法对QAM信号的识别效果优于ISODATA算法。