近年来,关于涡旋光束的研究受到了人们的高度关注。涡旋光束具有特殊相位结构并携带光束轨道角动量,其与微观粒子的相互作用具有独特的性质,并且其在空间传输时能够更好地克服大气湍流等,因此涡旋光束在光操纵、宇宙探测以及光通讯等领域有很大的应用前景。特别是大能量涡旋光束在研究光束与粒子的相互作用以及增大光信号空间传输能力等方面有具有优势,对大能量涡旋光束的研究需求日益提高,因此研究涡旋激光器来实现大能量的涡旋光束输出日渐成为研究热点。论文通过文献调研,对涡旋光束应用领域做了简要的介绍,对目前涡旋激光器的特点以及存在的问题进行了对比分析。结合光纤激光器散热好、损伤阈值高、便携以及对环境容忍程度高等特点,提出了将空间涡旋光束耦合进入光纤进行传输放大的研究模型。涡旋光束的产生及其在光纤中的传输特性研究,能够为研究涡旋光纤激光器提供理论支撑,有望在涡旋激光器关键技术上获得突破,进一步实现大能量涡旋光束的产生,以加强光束与粒子的相互作用以及增强光信号空间传输能力,推动光操纵与光通讯领域的研究进展。论文通过数值模拟研究了目前常用的涡旋光束的空间产生手段——分别利用螺旋相位板、计算全息、以及双轴晶体中的圆锥折射现象产生涡旋光束,并以此作为光纤中产生涡旋光束的信号光。介绍了光纤中矢量模式分布理论、光纤传输理论以及光纤弯曲时应力分布与折射率分布的等效计算,根据波导传输的半矢量模型,推导出了求解半矢量波动方程的差分算法。通过数值模拟,研究了涡旋模式较传统线偏振模式在光纤中传输的优势。基于光纤中的模式分布与传输理论,论文还对传统光纤激光器中常用光纤——阶跃型光纤进行了仿真模拟,研究了在这种光纤中涡旋模式以及线偏振模式的分布特性与传输特性,以及光纤弯曲对光束传输的影响。同时提出了两种针对1064nm的新型的涡旋光纤的设计方案：低阶涡旋光纤-固体芯环形光纤(SCF)和高阶涡旋光纤-空气芯环形光纤(ACF),通过数值模拟证明了这两种新型涡旋光纤传输涡旋模式的可行性,并研究了光纤弯曲对于两种新型涡旋光纤中涡旋模式传输特性的影响。