为了满足不断增加的语音、视频以及大数据传输业务的发展,光纤通信系统需要根据不同应用需求采用不同码元速率和调制格式的光信号。光网络的异构化趋势使得光通信系统的网络管理、优化和信号的接收变得更为复杂,为了实现光网络的智能化管理和自适应光接收机,光信号识别技术的研究显得尤为迫切。本论文旨在完成光信号识别系统的研发,针对通信链路节点和相干光接收机终端提出了两套基于直接探测和基于相干探测的光信号码元速率和调制格式识别方法。首先分析了不同调制格式信号异步采样序列一阶和二阶自相关函数的周期性,实现了一种与调制格式无关的光信号速率识别算法;并根据采样序列峰均值比随色散变化的关系扩展了识别算法的色散容限。接下来分析了不同调制格式和速率信号的高分辨率光谱之间的差异,利用主成分分析(PCA)和支持向量机(SVM)算法实现了无先验信息的光信号识别系统,并分析了各种调制误差和信道损伤对识别结果的影响。最后利用相干接收机终端获得的信号光场信息,以Godard信号时钟探测算法为基础,提出了基于混合相关函数的码元速率识别方法,消除了偏振模色散的影响。之后,利用大色散下的信号瞬时功率分布来区分非偏振复用(NPM)和偏振复用(PM)信号,根据信号光场平方和四次方后信号频谱,以及经过CMA算法后的振幅误差函数为判据能够区分OOK、BPSK、QPSK、16QAM等常用的光信号。