太赫兹贝塞尔涡旋波束具有众多优良特性,它结合了太赫兹辐射的宽光谱带宽、良好穿透性,和贝塞尔涡旋波束的无衍射特性、自愈合特性以及携带轨道角动量的能力,在光镊、成像、量子纠缠和通信等领域有了广泛的应用。然而在实际的通信和成像等应用中,必须考虑环境对波束传播特性的影响。本文主要基于贝塞尔涡旋波束的圆柱矢量波函数展开,并结合边界条件,推导得到了贝塞尔涡旋波束在单/多层磁化等离子体介质中的反射和透射场。对于入射波束极化方式不同的情况,数值模拟并分析了不同参数对反射和透射波束场强和轨道角动量态分布的影响。最后基于涡旋波束在随机介质中的传播理论,使用多相位屏方法探讨了太赫兹贝塞尔涡旋波束在湍流等离子体中的传输特性。本论文的主要研究内容如下:1.介绍了等离子体的基本性质和参数,以及计算不均匀等离子体对电磁波的反射、透射和吸收的散射矩阵法。使用散射矩阵法分析了左旋圆极化和右旋圆极化波在磁化等离子体中的反射、透射和吸收特性。最后介绍了贝塞尔涡旋波束的性质和标量表述,以及它的圆柱矢量波函数展开表述,给出了不同极化方式下波束的场强、相位和轨道角动量态。2.基于贝塞尔涡旋波束的圆柱矢量波函数展开,导出了贝塞尔涡旋波束在磁化等离子体介质中的内部场,根据边界条件推导得到了贝塞尔涡旋波束在单层磁化等离子体介质中的反射和透射场。通过对比本方法与解析方法计算的法拉第旋转效应中透射电场轨迹以及左旋圆极化和右旋圆极化波的反射和透射系数,显示两组结果符合良好,验证了本文方法的正确性。数值模拟了x极化太赫兹贝塞尔涡旋波束在单层磁化等离子体中反射和透射场轮廓剖面和轨道角动量态的变化。结果显示,等离子体厚度越厚、电子密度越大、入射角越大,透射场轮廓畸变和强度衰减越严重;随着外加磁场增大,透射电场y分量占比增大;拓扑荷数对反射和透射场轨道角动量态分布没有影响;随着半锥角增大,反射和透射场轨道角动量态主模占比减小;入射频率越大,波束的透过率越大。3.考虑到在实际环境中等离子体中电子密度分布往往是不均匀的,本文导出了贝塞尔涡旋波束在分层磁化等离子体介质中反射和透射场展开系数的级联表达式。对比本方法与散射矩阵方法计算得到的左旋圆极化和右旋圆极化波反射和透射系数,显示两种方法的结果符合较好,验证了本文方法的正确性。数值模拟了不同极化贝塞尔涡旋波束在多层磁化等离子体中的传输特性,结果表明,通过增大磁感应强度可以提高右旋圆极化波束的透过率,并且随着磁感应强度的增大,x极化和径向极化波经过磁化等离子体后透射场的极化方式逐渐变为圆极化。最后,本文模拟了拓扑荷数为2和-2的同轴贝塞尔涡旋波束在磁化等离子体中的传输,结果表明,随着磁感应强度的增大,右旋圆极化波束轨道角动量复用在磁化等离子体中的透过率增大,并且不发生模式串扰。4.基于多相位屏方法与分形相位屏模型,数值模拟了太赫兹贝塞尔涡旋波束在湍流等离子体中的传输特性。结果表明,通过增大拓扑荷数可以提高贝塞尔涡旋波束在等离子体湍流中的抗干扰能力。