作为一种新型的固态激光器，光纤激光器以其优异的性能在上个世纪90年代以后获得了蓬勃的发展。在这其中，大模场面积的多模光纤扮演了重要角色。大模场多模光纤的采用，极大地促进了光纤激光器单纤输出功率的提升，但同时也带来了输出光束质量变差的新问题，这就需要对大模场的多模光纤激光器进行模式控制。本文从外部控模和大模场单模光纤设计两方面着手，对大模场光纤激光器的模式控制技术进行了理论和实验研究。　　 第一章综述了光纤激光器的研究现状及国内外模式控制研究所采用的各种方法，讨论了不同技术的优劣。同时还对光束质量的定义和实验测量方法进行了综述，通过比较选定了实验测量光束质量所用的方法。　　 第二章从阶跃光纤的模式理论出发，分析了弱导光纤中矢量模、线偏模及其对应关系，证明了高阶模式的光束质量因子比基模高，因而可以M2因子来衡量多模光纤激光器的模式控制效果。最后利用弱导光纤的线偏模特性，推导了多模光纤的宏观弯曲损耗。　　 第三章采用光纤缠绕弯曲的方法，利用纤芯直径43μm、数值孔径NA0.08的大模场光纤实现了光束质量因子M2=1.38的160W激光输出，亮度为缠绕前的3.41倍。并利用纤芯直径161μm、数值孔径NA0.10的大模场光纤进行了缠绕控模实验研究，依次实现了各高阶模式的滤除，最后获得了1.5.4W的近衍射极限激光输出。同时利用第二章所推导的弯曲损耗公式对其进行了理论计算，实验测量结果与理论计算结果具有较好的一致性。　　 第四章本章采用纤芯直径43μm、数值孔径NA0.08的大模场双包层光纤进行了拉锥实验研究，获得了光束质量因子M2=1.13的56.4W激光输出。与拉锥前相比，虽然最大输出功率减小了约30.6％，但光束亮度为拉锥前的5.26倍，且激光波长向短波方向漂移。最后对拉锥后光纤激光器的热力学特性进行了理论计算。并就光纤缠绕和光纤拉锥这两种模式控制方法进行了比较，对下一步的工作方向进行了展望。　　 第五章以受抑内全反射为理论基础，设计了一种基于泄漏模式的大模场双包层光纤，纤芯直径高达48μm。并采用矩阵分析方法理论计算了这种光纤的基模LP01和次低阶模LP11的传输和泄漏损耗特性，结果表明所设计的光纤能有效实现单横模运行。