光纤激光器具有光束质量好、转换效率高、结构紧凑、热管理方便等优势,在工业加工、智能制造、国防军事等领域获得广泛应用。相比较光纤激光放大器,光纤激光振荡器结构简单,操作方便,抗反射能力强,在工业应用中更受青睐。然而,受限于光纤中的受激拉曼散射效应（SRS）和模式不稳定效应（TMI）,高功率全光纤激光振荡器的功率提升受到限制。基于此,本文以掺镱光纤激光振荡器功率提升为研究对象,从理论和实验两方向研究全光纤激光振荡器中功率提升的限制因素,为获得更高功率输出的全光纤激光振荡器提供指导。本文的主要内容如下:对光纤激光器的发展历程进行综述,比较光纤激光放大器与光纤激光振荡器的结构优劣。从空间结构和全光纤结构全面梳理了光纤激光振荡器的发展现状,对振荡器功率提升过程中遇到的两种主要限制因素SRS和TMI进行分析。基于传统光纤速率方程建立包含SRS效应、光纤弯曲损耗、模式耦合等因素的振荡器综合物理模型,基于物理模型分析模式耦合系数对光纤激光振荡器输出性能的影响。结合增益光纤结构参数优化,分析纤芯直径渐变增益光纤在振荡器结构中的功率提升受限情况,最后分析光纤熔接质量对振荡器基模损耗的影响,仿真结果表明光纤熔接时轴向偏移和倾斜对熔接的损耗远远大于光纤参数本身。实验上探索研究了不同纤芯直径增益光纤组合的光纤激光振荡器的功率提升效应,实验结果发现不同增益光纤熔接导致大量高阶模式激发,在存在包层光滤除时激光效率下降。此外基于国产限制掺杂增益光纤搭建高功率全光纤激光振荡器实验平台,实验研究表明后向泵浦和双向泵浦可以提高TMI阈值,在双向泵浦时最高实现1224W激光输出。基于常规25/400μm和30/600μm掺镱光纤搭建高功率全光纤激光振荡器,在25/400μm光纤激光振荡器中,通过消除振荡器腔外反馈抑制SRS实现最高输出功率5070W输出,拉曼光比信号光低～35dB,光束质量M~2～1.6,并对该5kW振荡器进行5小时长时间稳定工作测试,测试结果表明该振荡器输出性能稳定,具有工程化的潜力。在30/600μm光纤激光振荡器中,分别从前向泵浦、双向泵浦和后向泵浦三种方式进行功率提升研究,在双向泵浦时实现最高3600W激光输出,没有观察到SRS和TMI效应。实验表明基于商用30/600μm掺镱光纤的全光纤激光振荡器具备实现更高功率输出的能力。