光纤激光器具有转换效率高、光束质量好、结构紧凑、易散热、工作稳定性好等优点，已经广泛应用于工业和国防领域。然而，受光纤非线性效应及光学热损伤等机制的限制，单根光纤激光器的输出功率不可能无限提升。为了获得更大的光纤激光输出，对多个中等功率的光纤激光进行合束是一种有效手段，其中所需的关键元器件就是光纤合束器。目前，美国IPG公司基于光纤合束器的多模连续光纤激光输出功率已高达50kW，但是光束质量很差，M2约为32.7。如何利用光纤合束器在获得大功率激光输出的同时实现高光束质量，进一步扩大其应用范围，是本技术领域需要解决的关键问题。本文围绕光纤合束器模式转换与控制展开了相关理论和实验研究，主要内容包括：首先回顾了光纤合束器的发展及其在光纤激光系统上的应用，指出利用光纤合束器可以实现大功率光纤激光输出，但是输出光光束质量较差，严重限制了其应用范围。据此提出了本文研究内容——研究光纤合束器的模式转换，探索通过模式控制改善光纤合束器输出光束质量。进一步对光纤合束器在不同入射条件下的输出特性展开了数值模拟研究。应用模式分析法分析了多模光纤和71光纤合束器在理想入射、离轴偏移入射和倾斜入射条件下的输出光场和激发模式特性。引入功率谱密度分析方法分析了理想入射、离轴偏移入射和倾斜入射对多模光纤和71光纤合束器的输出光场强度分布和相位分布的影响，探索光纤合束器输出光光束质量退化的机理。根据光纤合束器的两个设计准则，实现了低损耗并可承受百瓦量级输出功率光纤合束器的研制。针对不同功能、不同类型的光纤合束器，提出了四种光纤组束方法。设计加工了一种新型的封装制冷装置，通过实验论证了在光纤合束器传输效率大于95%的前提下，这种热管理方式能够实现4kW的有效制冷。通过分析比较现有的几种光束质量评价方法，选择修正的BPF参数和M2因子一起作为评价合束器输出光光束质量的参考因子。定量分析了光纤熔锥束的占空比和相位误差对输出光光束质量的影响。修正了高增益耦合模型，分析了熔锥光纤束被动相干合成的机制，定量分析了随机相位大小对5路、10路和19路熔锥光纤束阵列锁相状态的影响，以及光纤阵列路数对随机相位的容忍度。最后提出了一种基于光纤合束器全光纤结构的主动相干自适应优化控制方案。实现了单根多模光纤的模式控制，验证了光束净化可以实现高亮度的输出。在光纤合束器相干锁相基础上，应用光束净化系统对光纤合束器的相干输出光场进行模式控制。对自制的21光纤合束器在非相干输入、相干输入锁相前和锁相后的光束净化进行了实验研究，验证了此模式控制方案可以实现高亮度激光输出的光纤合束器。