光纤的低损特性曾经带来了通信行业的革命,但是单模光纤通信系统已经接近它的通信容量极限。空分复用技术作为突破此容量极限的一种方式被提出。空分复用技术利用少模光纤作为传输介质。作为光时域反射技术的物理机制,瑞利散射理论在单模光纤已经非常成熟。然而少模光纤中的瑞利散射的物理机制并没有被系统地研究过。本论文研究少模光纤中的光时域反射技术的原理与应用。论文包括以下五个方面:(1)推导了少模光纤中瑞利散射功率的一般表达式,建立了少模光纤中瑞利散射的标量理论模型,包括模间瑞利散射和模内瑞利散射。(2)理论上发现了前向模间散射是少模光纤中本征串扰的一种机制。虽然瑞利散射远小于激发模式的功率,但随着激发模式在光纤中的传输,模间瑞利散射会有累积式增加。(3)实验上利用空间光路型模分复用器测量了阶跃少模光纤和渐变少模光纤中的模内和模间的瑞利散射,测量所得的背向瑞利散射功率与理论预言吻合(最大误差为0.28 dB)。实验证明了所建立模型的正确性与有效性。(4)建立了保偏少模光纤中瑞利散射的矢量模型。分析发现同偏振之间的模间和模内瑞利散射与标量理论全同,而正交偏振之间的瑞利散射为零。(5)实验测量了保偏少模光纤中的同偏振和正交偏振之间的模间串扰。论文研究工作不仅奠定了少模光纤中光时域反射技术的理论基础,为表征少模光纤(包括少模保偏光纤)提供了技术途径,尤其是对少模光纤中模间串扰的测量将正面影响空分复用光通信这一研究领域,也会正面影响对包括少模光放大器、少模激光器相关器件的研究。