在储存环中应用高次谐波腔可以有效的拉伸束团长度,延长束流寿命。同时,通过对其失谐角的调节,能够对耦合束团不稳定性等产生抑制,保证束流的稳定运行。本文结合HLSII的实际情况,重点研究新加入的高次谐波腔和原来的主高频腔组成的二腔系统内的束流纵向不稳定性问题。我们联系当前国内外束流不稳定性问题的研究热点,采用了理论分析模型和宏粒子建模跟踪两种方法进行研究并取得了很好的效果。本文首先介绍了二腔系统内基本的束腔相互作用理论,明确了物理环境,给出了最优化束团长度条件的定义和物理意义。同时得到了高次谐波腔和主高频腔之间失谐角、同步相位角及腔压等参数变换关系,为今后二腔系统的实际运行调节提供依据。分析模型方法中,对罗宾逊不稳定性、高次模影响下产生的寄生耦合束团不稳定性和微波不稳定性的产生机制进行了系统研究,得到了相应不稳定性的理论判据。其中罗宾逊不稳定性的研究中,对于严重影响束流稳定运行的偶极、四极单模和偶极-四极模耦合情况进行重点分析。对于微波不稳定性,我们得到了避免该不稳定性发生的宽带阻抗范围。在各种不稳定性的分析判断结果中,我们发现当束流流强和高次谐波腔失谐角在最优化束团长度曲线附近区域时,束流稳定性得到保证。宏粒子跟踪模拟作为分析模型方法的辅助和补充能够综合反映带电粒子束流在储存环中的运行状态。这种方法的关键有二：宏粒子数目如何选取才能既保证模拟结果准确性的同时又兼顾效率；弄清宏粒子运行全过程中所感受到的电场的演化情况。我们建立起一套完整的宏粒子跟踪模型,得到了束流多圈运行后相对能散变化的计算结果。通过比较分析模型和宏粒子跟踪模拟的计算结果,我们发现二者具有一致性。另外,从不同方法中得到的束团长度及其拉伸比也都反映了高次谐波腔加入后对束团长度的改善效能,具体结果也与前人的工作有很好的符合。本文末章研究了非均匀填充模式对耦合束团不稳定性的改善机制,结合HLSII具体设计了四种非均匀填充方案,并通过比较跟踪模拟结果,得到最佳方案。同时,文中还指出非均匀填充模式下,瞬态束流负载效应对束团拉伸效果产生削弱。