在托卡马克中,撕裂模是一种由平衡环向电流密度的径向梯度驱动的不稳定性,能够使磁场拓扑结构改变从而形成磁岛,显著增加了磁岛区域的径向输运。当磁岛足够大时,磁岛的相互重叠甚至会导致等离子体的大破裂。因此,理解撕裂模的物理机制对于现有和未来的托卡马克装置的稳态运行至关重要。另一方面,高能量粒子可以通过氘氚聚变和辅助加热产生,高能量粒子不仅可以影响多种磁流体不稳定性（比如撕裂模）,同时会激发鱼骨模等不稳定性,这些由高能量粒子激发的不稳定性又将导致高能量粒子损失,进而造成辅助加热效率降低等负面影响。因此,高能量粒子物理的研究对目前托卡马克装置（如国际热核聚变实验反应堆）以及未来装置中燃烧等离子体的预测也极其重要。本文主要研究了在圆截面、大环径比的托卡马克中,低比压等离子体的情况下,捕获高能量粒子对撕裂模的影响以及捕获高能量粒子激发的类鱼骨模,主要成果如下:第一,解析地研究了深度捕获高能量粒子对撕裂模不稳定性的影响。考虑有限轨道宽度效应,磁岛宽度远小于香蕉轨道宽度时,通过特征线法求出未考虑共振的深度捕获高能量粒子的动理学扰动分布函数。给出了考虑背景离子和高能量粒子压强时撕裂模的外区方程,从而得到撕裂模的稳定性判据。研究结果表明:捕获高能量粒子由于自身轨道的局限性,所产生的压强和坏曲率耦合修正了梅歇尔项,对撕裂模起解稳作用。第二,针对2019年HL-2A实验上发现的2/1类鱼骨模,用解析计算结合数值分析的方法解释其形成的物理机制。利用能量原理方法,解析地给出不考虑有限轨道宽度的捕获高能量粒子的扰动势能,然后得到2/1类鱼骨模的色散关系,从而推导出捕获高能量粒子激发2/1类鱼骨模的比压阈值表达式和2/1类鱼骨模临界实频的解析形式;解析结合数值自洽地给出理想流体扰动势能之和、磁雷诺数、磁剪切对类鱼骨模激发的影响。研究结果表明:通过预测激发2/1类鱼骨模所需的高能量粒子的比压阈值,解决了由于实验条件限制而无法给出临界比压的问题,同时发现了磁剪切和电阻对类鱼骨模的激发都起着抑制作用,在比压<1%时,捕获高能量粒子仍对撕裂模起解稳作用,与前述研究结果吻合。第三,考虑了更加真实的慢化分布函数,研究临界能量对2/1类鱼骨模激发的影响,以及2/1类鱼骨模激发过程中临界能量对另一支解即撕裂模的影响。研究结果表明:临界能量会降低上述激发2/1类鱼骨模所需的比压阈值,也会影响撕裂模的实频和增长率,理想流体扰动势能之和、磁雷诺数、磁剪切对激发2/1类鱼骨模的影响也会有相应变化。最后,简明地总结已完成的工作,并提出对未来工作的展望。