中国ADS(C-ADS)直线加速器是一台高功率、高流强的超导连续波质子直线加速器，其设计束流流强为10mA、最终能量为1.5GeV。处在该加速器下游的中子散裂靶和次临界反应堆对加速器运行过程中的束流品质要求非常高。因此，在加速器设计阶段就需要对可能影响束流品质的各个因素进行研究。其中，非常重要的影响因素之一为存在于超导腔内部的高次模。本论文详细分析了高次模引起的束流不稳定性。　　本论文首先对束流频谱做简单分析，通过分析结果知道，由于加速器运行中实际存在的束流抖动，任何高次模都会被激励起来。本文然后分析了高次模与束流的相互作用机制，得出对束流影响最严重的高次模为Machine Line模式以及（R/Q）较高的模式。　　论文使用CST软件对C-ADS主加速器采用的Spoke腔和Elliptical腔的加速模、单极模以及二极模进行了模拟，并得到这些模式的RF参数。　　本文对不稳定性模拟程序BBUSIM的纵向模块进行了扩展，并撰写了该程序的横向模块，同时利用BBUSIM程序对束流引起的不稳定性做了初步模拟，包括多个模式对束流的影响、高次模对束团相空间的影响以及高次模对束团模式的调制。　　本文利用SMD程序对C-ADS直线加速器单极模和二极模引起的纵向和横向束流不稳定性进行了详细的模拟分析:分别给出了纵向和横向不稳定性的评价标准，并考察了不稳定性与束流流强、高次模的Qext、高次模的频率展宽、超导腔准直误差以及偏心注入之间的关系。　　本论文最后结合CST和TraceWin程序，研究了功率耦合器和高次模耦合器引入的横向二极场对束流的影响，包括对束流的偏转效应（束团中心的轨道偏移）以及对束流发射度的影响，并给出了轨道校正的结果。