目前,托卡马克磁约束聚变装置是最有希望实现可控核聚变从而解决能源问题的聚变装置之一。经过近几十年研究和探索,磁约束核聚变研究已经取得很大进展,但是依然存在着许多关键的物理和工程问题需要去解决。其中,高能量粒子（Energetic Particle,EP）物理的研究对目前托卡马克装置稳态运行以及未来装置中燃烧等离子体的预测极其重要,因为高能量粒子不仅可以加热等离子体,而且会激发各种不稳定性,这些不稳定性会导致高能量粒子损失、降低装置约束性能,甚至会破坏装置第一壁。高能量粒子产生方式主要有两种:第一,由各种辅助加热产生,包括中性束注入、电子回旋共振加热、离子回旋共振加热等;第二,氘氚聚变反应产生阿尔法粒子（Alpha Particles）。高能量粒子激发的不稳定性主要分为两类:一类是磁流体类型的不稳定性,例如鱼骨模;另一类是各种阿尔芬本征模（Alfven Eigenmodes,AEs）,例如环向阿尔芬本征模（Toroidal Alfven Eigenmode,TAE）。辅助加热对于目前的托卡马克聚变装置是必不可少的,包括HL-2A、EAST、DⅢ-D等;对于未来聚变装置国际热核聚变堆ITER和中国聚变工程实验堆（China Fusion Engineering Test Reactor,CFETR）,氘氚聚变反应也会产生大量高能量阿尔法粒子。因此,本论文系统地模拟分析了高能量粒子激发的高模数占主导的高能量粒子模物理特征,DⅢ-D装置上的鱼骨模以及AEs,同时也对未来中国聚变工程实验堆装置上阿尔法粒子激发的AEs进行了模拟分析。本论文的各章内容总结如下:第一章,主要介绍了本论文的研究背景、研究意义;并且简单地总结了一下鱼骨模以及阿尔芬本征模的发展历史以及研究现状。第二章,简单地描述了本论文所使用程序的物理模型,包括磁流体动理学混合程序M3D-K以及回旋动理学程序GEM。第三章,研究了捕获粒子激发的高环向模数（n）占主导高能量粒子模（Energetic Particle Mode,EPM）的激发条件和物理特征。发现在弱磁剪切下高n占主导的高能量粒子模可以被激发,且随着高能量粒子压强增大,被激发的高能量粒子模更不稳定。通过分析共振关系发现高n谐波满足多种共振关系,m/n=1/1不稳定性只满足一种共振关系。另外,通过对比分析了磁流体非线性效应对饱和幅度的影响,结果表明磁流体非线性效应对低n模饱和幅度影响比较大,对高n不稳定性的饱和幅度几乎没有影响。在非线性阶段,高n不稳定性出现向下或者向上扫频,且扫频幅度比较小,与经典鱼骨模差别比较大。最后,对比分析了非线性阶段不同高阶谐波不稳定性引起的高能量粒子分布函数随时间变化情况。第四章,研究了 DⅢ-D托卡马克装置上高能量粒子激发的鱼骨模和AEs不稳定性。在DⅢ-D托卡马克中,中性束注入会激发AEs不稳定性;然而,最近发现加入电子回旋电流驱动（Electron Cyclotron Current Drive,ECCD）会抑制AEs,激发鱼骨模。因此,选择了两炮典型的放电平衡对上述现象进行了模拟分析,其中一炮是只有中性束的情况,另外一炮中既有中性束又有电子回旋电流驱动。通过分析增长率、模频率、模结构以及连续谱的特征,发现在没有ECCD情况下激发的是n=3占主导比压阿尔芬本征模（Beta-induced Alfven Eigenmode,BAE）,而加入ECCD效应之后激发了n=1占主导鱼骨模。通过对比发现,上述两炮放电的平衡和参数最主要差别是高能量粒子压强与总压强比值（Phot/Ptotal）以及安全因子剖面中心值（q0）不同,因此在Phot/Ptotal和q0参数空间对不同n模进行了系统地扫描,模拟结果表明随着q0和Phot/Ptotal变化,鱼骨模和AEs可以发生相互转换;且找到了一个稳定参数区间,在这个稳定区间内,AEs和鱼骨模都是稳定的,这个稳定区间可以给未来托卡马克放电提供一个很好的参考。第五章,利用回旋动理学程序GEM,基于CFETR设计阶段的平衡和参数分析了高能量粒子激发的AEs。通过对比发现,中性束注入产生的各向异性高能量粒子对模拟结果影响非常小,因此在这个工作中主要考虑了聚变反应产生阿尔法粒子的影响。首先,对不同环向模数进行了分析,发现n=10的模是最不稳定且是TAE不稳定性,因此主要对n=10不稳定性进行了详细地模拟分析。对于阿尔芬本征模,安全因子（q）剖面是一个非常重要的影响因素,因此特别地分析了安全因子最小值（gm,n）对AEs不稳定的影响,模拟发现只考虑单个模情况下,当qmin变化很小的时候,增长率和模结构就会有比较大的变化。归一化阿尔法粒子速度（vh/vA）以及归一后拉莫尔半径（ρh/a）是两个与高能量粒子相关非常重要的参数,模拟分析了这两个参数变化对增长率和模频率的影响,且发现CFETR这两个参数均位于增长率比较大的位置。背景等离子体密度/温度的变化会导致其他参数变化,尤其是阿尔法粒子密度以及与阿尔法粒子分布有关的参数,在同时考虑与背景热离子（thermal ion）密度/温度变化有关参数情况下,分析了热离子密度/温度变化对增长率的影响,结果表明随着热离子密度增大/温度减小,增长率逐渐减小直到达到稳定。最后一章对本论文进行了总结并提出工作展望。