光纤激光器作为一种具有极高光束质量和功率可扩展性的固态激光器,在当今的激光器研究领域中受到了广泛的关注和认可。早期的光纤激光器主要集中于单模光纤激光器,而进入21世纪后,可输出高阶模式光束的光纤激光器逐渐受到研究人员的关注。高阶模式主要分为标量模式、柱矢量模式和涡旋模式,其区别于基模的场强和偏振分布使得其在高功率光纤激光器、模分复用、粒子捕获与操控、高分辨光学显微成像和激光器加工等领域有着独特的优势。但目前高阶矢量模式光纤激光器存在着输出模式不稳定、易受环境干扰和输出功率低等缺点,严重限制了其在实际应用中的表现。为了推动高阶矢量模式光纤激光器的应用,本文提出了多种模式耦合、模式分离、模式选择和高阶模式功率放大技术,搭建了多种单一高阶矢量模式光纤激光器,作为高阶矢量光束应用中的稳定光源。本文的主要研究成果如下:1.基于金属欧姆损耗及表面等离子体共振特性,设计并制作了金属包层光纤,该金属包层光纤对于TE01模式具有极低的损耗,而对于其它模式具有较高的损耗,因此可以实现TE01模式的选择性透过。本文基于金属包层光纤搭建了LP11模式谐振的全光纤结构激光器,并通过调节偏振控制器,得到了单一 TE01、TM01和HE21模式输出,LP11模式纯度达到了 97.6%;2.设计并拉制了环形无源光纤及环形掺镱光纤,解决了 TE01、TM01和HE21模式在普通少模光纤中传输时面临的模式串扰问题,实现了高阶矢量模式的稳定传输。结合金属滤模技术实现了单一 TE01模式谐振并输出的光纤激光器,模式纯度达到了 96.5%;3.基于环形光纤刻写了长周期光纤光栅,实现了 HE11模式向HE21模式的高效耦合,并采用环形光纤布拉格光栅作为模式选择器件,实现了单一HE21模式输出的光纤激光器,并通过调节HE21even与HE21odd模式间的相位差,得到了拓扑荷数为±1的轨道角动量光束,模式纯度达到了 94.4%;4.设计并制作了矢量模式耦合的长周期光纤光栅,实现了保偏光纤中线偏光向环形光纤中的径向偏振光与角向偏振光的高效和高纯度耦合,搭建了可同时输出单一 TE01和TM01模式的全保偏结构的光纤激光器,输出模式稳定,对外界干扰不敏感,模式纯度分别为92.4%和97.3%;5.采用大模场双包层保偏光纤对LP11ax模式实现了 MOPA放大,并通过保偏光纤本征模式合成得到了单一的径向偏振光（TM01模式）,激光器最高输出功率可达20W,模式纯度达到了 91.5%;本文创新点:1.利用金属层损耗的偏振依赖性实现了 TE01模式的选择,并基于此实现了 LP11模式谐振的光纤激光器;2.设计并拉制了环形无源光纤及环形掺镱光纤,解决了 LP11模式的模式串扰问题,实现了单一 TE01模式谐振的光纤激光器,无须调节偏振态即可输出稳定的高纯度TEoi模式光束;3.基于环形光纤刻写了长周期光纤光栅,实现了 HE11模式向HE21模式的定向耦合,并结合环形光纤布拉格光栅实现了单一 HE21模式输出的光纤激光器,并利用HE21模式中2个简并模式叠加得到了拓扑荷数为±1的轨道角动量光束;4.基于保偏光纤和环形光纤制作了矢量模式耦合的长周期光纤光栅,实现了HE11模式向TE01模式和TM01模式的高效、高纯度耦合,并基于此实现了可同时输出稳定的单一 TE01和TM01模式的全保偏光纤激光器;5.在大模场双包层保偏光纤中产生了高纯度的单一LP11ax模式,并成功对其进行了功率放大,同时采用分束和偏振合束技术合成了高功率、高纯度的径向偏振光,输出功率达到了 20W。