受激布里渊散射(Stimulated Brillouin Scattering,SBS)在光纤领域的研究中一直处于十分重要的地位。一方面,人们渴望抑制光纤中的SBS效应所带来的各种不良影响;另一方面,科学家们又利用SBS特性进行了有关光纤传感、慢光和相位共轭等有利因素的研究并广泛应用于通信、建筑等诸多领域。此外,多模光纤的SBS研究中还发现过一种称之为SBS光束净化的特殊效应,它能将光束质量恶劣的多模光束转化成为良好光束质量的基模光束。SBS光束净化效应的发现为多模光纤中光束质量的改善提供了一条有利途径,但这种效应却违背了人们对于SBS具有相位共轭特性的传统认识。自1993年SBS光束净化效应被发现以来,国际上不少课题组都开展过相关研究,但至今仍没有一套比较完整、合理的理论来解释SBS光束净化,甚至关于SBS光束净化的发生条件及产生原因都还各执一词。本论文便针对多模光纤中的SBS光束净化进行了系统的理论和实验研究,建立了一套较为完整的SBS光束净化理论模型,合理解释了SBS光束净化的产生机制并明确提出了SBS光束净化的发生条件,还实验改善了之前泵浦转化效率低下、输出光束不稳定等制约其应用的关键性问题。首先,我们建立了适宜于分析多模光纤中模间SBS过程的三维SBS耦合波方程。该方程解决了传统平面波近似的SBS耦合模型下因忽略模式横向分布而无法分析不同模式间SBS差异的问题,同时使用弹性动力学理论建立声子场方程,更正了传统耦合波方程中的流体参数。根据三维SBS耦合波方程的形式解,我们指出了多模光纤与体介质中SBS过程的区别并提出了使用―布里渊模间增益系数‖来分析不同模式间布里渊增益差别的方法。其次,我们通过对三维SBS耦合波方程进行仿真分析给出了轴对称型多模光纤中各模式间布里渊增益的分布曲线,理论预测了各种光纤参数对模间布里渊增益的影响。根据理论结果,我们明确提出了多模光纤中发生SBS相位共轭和光束净化的物理机制和产生条件,揭示了SBS光束净化的本质并加以实验佐证。最后,我们还根据理论指导利用大芯径的折射率渐变光纤实验实现了高质量、高泵浦转化效率的SBS光束净化,改善了限制SBS光束净化应用的关键技术,同时还研究了SBS光束净化中影响泵浦转化效率及输出光束质量的理论和实际因素,讨论了SBS光束净化的应用前景。