全光纤化的光纤激光器具有结构紧凑、效率高、便于热管理等优点,在工业加工、生物医学、激光雷达、光电对抗等领域有着广泛的用途。随着人们需求的不断拓展,光纤激光正朝着更高亮度、更高效率以及更广的光谱覆盖范围发展。光纤激光的增益来源通常有两大类,一类是利用实能级的跃迁产生的受激辐射,如掺镱光纤激光器;另一类是利用非线性效应产生的增益,也叫虚能级增益,如拉曼激光器。以上两类增益都具有获得高功率、宽光谱范围激光的潜力。本文以镱离子增益、拉曼增益以及两者的混合增益为研究对象,分析其在功率提升和波长转换上的潜力,重点研究混合增益光纤激光器的特性和优势。相比于掺镱光纤常规波段激光,关于长波波段激光发射特性的研究较少,但是该波段激光与高功率拉曼光纤激光器波长相匹配,并且可以作为混合增益系统的种子源,因此本文分析了长波长掺镱光纤激光器的发射特性。针对长波长激光在掺镱光纤中增益较小、容易产生ASE的限制,理论分析了振荡器增益光纤纤芯直径、长度、小信号吸收系数、吸收发射截面、损耗系数,以及输出耦合光栅反射率和泵浦方式对激光产生的影响。实验上对振荡器输出光栅反射率、掺镱光纤长度、泵浦源类型、光纤损耗等因素在抑制ASE方面的性能进行了详细讨论。通过理论优化和实验设计,实现了16 W的1173 nm、322 W的1120 nm振荡器单模输出,都为目前该波段已报道的采用普通双包层掺镱光纤振荡器输出的最高功率。进一步开展了长波长激光在掺镱光纤中的放大研究。从理论上分析了种子功率、端面反馈、光纤参数对放大器性能的影响,搭建了1120 nm掺镱光纤放大器,获得了309 W的激光输出,光光效率71.5%。拉曼增益与镱离子增益相同,是混合增益系统的重要组成部分,为了分析其特性,对纤芯泵浦的拉曼振荡器和基于拉曼增益的短腔随机光纤激光器展开了理论和实验研究。在纤芯泵浦拉曼振荡器理论模型的基础上推导了拉曼振荡器的阈值公式,并提出利用该公式可以测量拉曼增益系数;理论分析了光纤长度、拉曼增益系数、光纤损耗、输出耦合光栅反射率、纤芯直径对拉曼振荡器效率的影响,指出光纤长度和输出耦合光栅反射率在很大范围内都可以使振荡器效率最优,因此优化这两个参数可以方便地对拉曼振荡器进行设计。开展了纤芯泵浦拉曼振荡器的实验研究,获得了119 W的1173 nm激光输出,光光效率超过82%。理论仿真与实验结果基本吻合。在基于拉曼增益的短腔随机光纤激光器方面,理论分析了随机光纤激光器阈值与光纤长度的关系;指出短腔随机激光器阈值对寄生反馈较为敏感,因此可以用其判断实验中是否存在反馈;数值计算表明随机光纤激光器的光纤越短可获得的功率越大。在理论分析的基础上,设计了百瓦级的高功率随机激光,获得了全开腔124 W的1150 nm随机激光,光光转换效率79%;半开腔112 W的1150 nm随机激光,激光器效率84.8%,为目前已报道的最高功率、最高效率的随机光纤激光器。开展了高功率随机激光的应用研究,通过研究随机激光的时域稳定性,指出其可用作高功率放大系统的种子源。用产生的高功率1150 nm随机激光泵浦掺钬光纤振荡器,获得23 W的2050 nm激光。对混合增益光纤激光器展开了理论研究。提出了混合增益光纤放大器的概念,建立了基于功率的速率方程模型,重点分析了其在泵浦能量提取、波长转换、后向拉曼散射抑制上的优势。并对其热分布特性进行分析,表明不会给系统带来额外的热负载。进一步建立了考虑四波混频的物理模型,分析实验中可能产生的四波混频对多波长混合增益光纤放大系统的影响,计算表明:四波混频会降低放大器的高阶拉曼阈值,但是可以通过优化设计使四波混频控制在可接受的范围内,实现千瓦量级的长波长激光输出;四波混频会使前向输出光更容易向高阶拉曼转换,但是对后向光影响较小,系统仍能有效抑制后向拉曼散射光。开展了高功率混合增益光纤放大器波长范围拓展的实验研究。获得了732 W的1120 nm激光功率输出,实验结果验证了理论模型的正确性。进一步优化设计,利用混合增益光纤放大器实现了1.52 k W的1120 nm激光,是目前报道的该波段激光最高功率,并有继续提升功率的潜力。为了进一步拓展输出波长范围,进行了高功率三波长种子的放大实验,获得了1178 nm波长激光已报道最高功率536 W。建立了三波长种子放大的理论模型,分析表明通过优化种子功率可在实验结构的基础上实现千瓦级的1178 nm激光输出,此时由四波混频诱发的高阶拉曼比例可小于5%。对采用多模光纤的混合增益放大器展开了研究,重点分析了混合增益光纤放大器对输出激光光束质量的影响。通过实验和理论分析证明在注入种子光束质量较好的情况下,利用受激拉曼散射能够提高输出光的光束质量。多模光纤中的拉曼效应存在模式之间不完全重叠的问题,因此拉曼相互作用效果与单模光纤不同,提出用模式的功率权重对等效拉曼增益系数进行修正的思路,使单模光纤的拉曼散射模型可以用于多模光纤的情况。