随着激光技术的发展,尤其是啁啾脉冲放大技术（Chirped Pulse Amplification,CPA）的提出,激光峰值功率不断提高。目前实验室条件下能够获得激光强度高达1022W/cm~2,脉宽仅几十飞秒的超短超强激光脉冲。在如此高的强度下,激光与等离子体相互作用进入近量子电动力学（Quantum electrodynamic,QED）研究领域,电子处于极端相对论的高能状态,这会产生诸如相对论随机性、辐射阻尼效应、高能γ光子辐射、正负电子对产生等新物理现象。除激光强度外,激光电场结构在与等离子体相互作用中也具有重要影响。如涡旋光束,具有中空强度分布、螺旋波前、携带轨道角动量等特点。涡旋激光可用于产生携带轨道角动量的涡旋极紫外光、电子束和γ光子束。本文针对涡旋光束与等离子体相互作用展开理论和数值模拟研究,重点讨论了涡旋γ光子束及高能环形离子束产生问题:一、提出了采用超强圆极化高斯激光与微通道靶相互作用,产生数Me V涡旋γ光子束的方案。通过QED-PIC程序分析了通道靶内涡旋电子束的动力学过程及激光自旋角动量向电子轨道角动量的传递过程。结果表明,当激光传输到通道尾端时,被光扇靶反射并转化为涡旋光束,同时在通道内形成高能涡旋电子束。反射的涡旋光束在与涡旋电子束对撞中,激发强烈非线性康普顿散射过程产生大量γ光子。模拟结果显示,产生的γ光子束具有高亮度、低发散角、高轨道角动量等特点。此方案为天体物理、粒子物理等研究提供了一种可能的涡旋γ光子束产生方法,同时也为未来通过实验对非线性QED理论进行检验提供了可能。二、提出了采用超强拉盖尔高斯激光与微结构靶相互作用产生环形高能离子束的方案。模拟结果表明,拉盖尔高斯激光与套筒丝靶、普通丝靶及平面靶相互作用均可产生环形高能离子束,且套筒丝靶方案具有更高的能量转换效率和离子截止能量。通过电子动力学的分析,我们从靶后超热电子密度、温度及鞘层场的产生细致讨论了环形离子束产生机制及套筒丝靶最优的物理原因。该方案对离子驱动的快点火和其他应用具有潜在参考价值。本文关注于涡旋光束与等离子体相互作用,利用涡旋激光携带轨道角动量和中空强度分布的特点,产生了涡旋γ光子束及环形高能离子束。深入分析了高能光子产生、角动量转化及高能离子束产生等过程,在天体物理、粒子物理研究及快点火中有潜在应用。