随着相干光通信技术的发展,越来越多的高级调制格式得到广泛使用。为了满足不同传输业务和网络升级需求,未来的光纤通信网络是异构的,同一网络中可能同时并存多种调制格式和速率的信号。因此调制格式识别技术对异构光纤网络的管理控制以及自适应光信号接收都有重要的价值。本论文围绕一种基于四波混频的全光信号调制格式识别器件展开了理论研究,首先证明了信号脉冲峰值功率随色散的变化与信号调制格式有关,其次基于光纤四波混频理论建立了器件的理论模型,利用了四波混频提供的非线性功率传输函数(NPTF)实现了脉冲峰值功率变化到输出端闲散光平均功率变化的映射,并针对不同调制格式研究了NPTF的优化方法,提高了PTF输出曲线的对比度以便于特征识别。在此基础上计算得到了十种常用的调制格式的上述特性曲线,采用简单的互相关算法和支持向量机算法实现了十种常用的调制格式的准确识别。此外,还对偏振复用信号的识别进行了研究。最后还讨论了不同速率信号调制格式的识别方法。本论文提出的识别方法无需任何先验信息,对信号速率无限制,适用于开关调制和高级调制格式信号以及CD和OSNR劣化的信号,系统仅采用低速的光探测器和普通光滤波器,无需精密的光谱分析和复杂的数据处理器件,具有结构简单,性价比高的优点。