光传送网（Optical Transport Network,OTN）作为以密集波分复用技术为基础的网络系统,通过具有调度能力的交叉连接矩阵来增强其组网能力,是新一代传送网的主要技术。其既可以对大颗粒的业务进行直接调度,又可以提供大容量的带宽。正因为此,一旦发生网络故障会导致大量数据丢失以及核心信息传输受阻,从而造成重大经济损失和不良社会影响。因此对OTN进行光纤线路监测的需求变得愈发迫切,而且将光纤线路监测嵌入到光传送网中的光监控信道（Optical Supervising Channel,OSC）发射机中的在线监测具有监测实时性强、体积小、便于光传送网运行维护与管理的优势。因此,光纤线路在线监测技术具有重要的研究价值和良好的应用前景。但光纤线路在线监测面临如何减小光纤线路监测对OSC信息传送的影响和如何在发送光功率受限制的约束下提高监测性能等技术问题。本论文围绕光传送网光纤线路在线监测的方案设计以及提升监测性能的数据处理方法进行研究与设计,主要研究设计工作成果如下。1.针对探测信息与OSC信息采用同一光源进行光纤线路在线监测的需求,基于相关光时域反射技术,设计了一种对OSC信息和探测序列分别制作成帧,并且根据OSC信息发送需求和光纤线路监测需求来切换OSC信息帧和探测帧的光纤线路在线监测方案（Frame Switching-Correlation Optical Time Domain Reflectometry,FS-COTDR）,主要包括切换逻辑、探测帧的后向散射信号接收方案设计。2.为提升FS-COTDR在线监测方案在发送光功率受限条件下的监测性能,设计了一种基于经验模态分解并借助相关系数和阈值处理的降噪算法。该算法将含噪声的OTDR曲线分解为多个本征模函数,判定并处理其中噪声占主导的本征模函数,以有效地降低噪声、提升监测动态范围。3.通过Matlab编程建立了 FS-COTDR在线监测方案的系统仿真平台并对方案参数影响和监测性能进行了仿真分析,验证了方案的可行性。利用该仿真平台验证了所设计降噪算法的性能,仿真结果表明该算法提升动态范围约4dB,同时原OTDR曲线中的反射事件得到保留。4.为将FS-COTDR在线监测方案推向实际应用,设计实现了基于该监测方案的信号发送单元。通过与信号接收单元的联合调试,验证了监测方案中通过连续发送M序列并对采得的光纤后向散射数据进行处理从而得到OTDR曲线等基本功能可正常工作。所设计的降噪算法的有效性也得到了验证。