随着光传输系统朝着超高速、超长距离、超大容量（ultra high speed，ultra longhaul，ultra large capacity，3U）的方向不断发展，光纤的色度色散（CD）、偏振模色散（PMD）以及链路光信噪比（OSNR）等因素对传输系统的性能影响越来越大。在色散容限方面，随着链路速率的不断提升，其容限急剧降低，如在相同调制格式下，100Gb/s系统的色散容限只有10Gb/s系统的1/100。为了精确而有效地实现高速光传输链路的色散在线管理，首先必须要针对传输链路的光性能进在线监测（OPM），从而为链路色散管理提供补偿依据。本论文针对现有光传输链路的性能在线监测技术进行了研究，在对现有OPM技术分析的基础上，提出了一种快速而灵活的光性能在线监测方法，对该方法进行了理论分析，同时搭建了系统进行仿真及实验验证。本论文首先针对当前光传输链路中的物理损伤进行了理论分析，分别介绍了CD、PMD等效应的特性及数学描述，同时也给出了它们对传输系统性能的影响，为后续章节的光性能监测研究提供理论基础。其次，针对当前现有光传输链路，分析了CD效应对每一种调制格式信号的相位影响机理，并找出了链路CD与接收端信号的功率、信号频谱相位差等之间的关联机理，并在此基础上提出了三种色散在线监测方法。针对每一种方案进行了理论分析并建立了数学描述模型，同时进行了仿真模拟和实验验证。每一种方案的验证覆盖多种类型的光传输链路，其数据速率均大于10Gbps，涉及强度调制直接探测型（IM/DD）和相位调制相干接收型（PM/CD）传输系统。仿真和实验的验证结果表明，基于边带频谱相位差探测技术的色散在线测量方案不仅可以实现链路色散的实时动态测量，而且能实现链路色散极性的区分。通过理论分析与仿真验证，本论文所提出的基于双边带相位差探测法和基于单边带内相位差探测法在进行色散在线测量时均可实现与链路数据速率以及调制格式无关；两种色散测量方法为当前在线色散管理提供有力技术支撑。第三，对现有传输链路的PMD在线监测方案进行了深入研究，针对当前主流的四种PMD监测方案进行了原理分析并指出其各自优缺点。在结合CD在线测量方案的基础上，提出了一种新的PMD在线监测方法，并对其PMD监测原理建立了数学描述模型，同时进行了仿真模拟和实验验证。仿真和实验的验证结果表明，基于单边带内PSPs轴向频谱相位差探测技术的PMD在线监测方案不仅可以实现链路DGD的实时动态监测，而且能提取链路F与S轴信号之间的相位超前与滞后关系，同时也验证了该方法进行PMD在线监测时与链路数据速率以及调制格式均无关；该方法有效实现了传输链路PMD在线监测功能。最后，针对本论文所提出的PMD在线监测方案，研究了链路CD对PMD监测的影响；从理论层面分了基于该方法的PMD监测与链路CD无关，同时也针对多种调制格式（10G NRZ、40G NRZ、40G RZ、100G RZ DQPSK）链路进行了CD不敏感的PMD在线监测仿真验证。仿真验证结果充分表明该方法进行PMD监测与链路中CD余量无关。