由于采用了较大径向尺寸的慢波结构（slow wave structures,SWSs）,过模O型Cerenkov高功率微波（high power microwave,HPM）产生器件在高功率、长脉冲运行方面具有明显优势。然而,这类器件的进一步发展过程中遇到了难以同时实现模式控制和高功率容量的困难。本论文通过理论计算、软件模拟和实验相结合的方式分析了过模O型Cerenkov器件中的模式控制和功率容量问题,主要工作如下:一、分析过模SWSs特有的表面波和频带重叠特性。指出基波成为慢波是模式整体上成为表面波的必要而非充分条件。针对常用的矩形波纹,提出了TM₀₁模式的p模成为表面波的补充条件。指出随着SWSs周期长度和波纹深度的减小,高阶TM_0n模式与TM₀₁模式出现严重的频带重叠现象,但无法成为表面波。TM₀₁、EH₁₁、EH₂₁等每个角向指数下的最低阶模式随着过模比的增加逐渐成为表面波,而且EH₁₁模式的色散特性和TM₀₁模式非常接近。二、求解了过模SWSs内TM_0n模式与电子束中空间电荷波同步作用的增长率,指出TM₀₂模式的增长率显著低于TM₀₁模式,故难以成为与电子束发生有效Cerenkov同步相互作用的主要模式。三、提出了基于调节模式之间的相位和耦合效果的输出模式纯化方法,该方法可在保持过模器件总输出功率不变的条件下,使TM₀₁、TM₀₂混合模式纯化为TM₀₁单一模式。并对典型的过模HPM产生器件的输出模式纯化情况进行了粒子模拟研究,结果表明该方法对器件的工作电压并不敏感,具备实际应用价值。四、提出利用PIC模拟结果定量分析HPM产生器件输出模式成份的方法。该方法不受HPM产生器件种类的限制,且对2维和3维PIC模拟均适用。五、研究了过模O型Cerenkov器件内非对称表面波引起的模式竞争。指出EH₁₁对TM₀₁的模式竞争是影响器件单模、稳定工作的重要因素;模式竞争抑制效果必须采用3D-PIC模拟进行评估;通过调节束波作用区两端的反馈,可有效抑制EH₁₁模式。六、理论计算了SWSs内不同模式单独存在和混合存在时的功率容量特性。当各TM_0n模式单独传输时:TM₀₁模式功率容量最小;SWSs功率容量随着频率的下降、平均半径的增大和波纹深度的减小而增大,不论其场特性为体积波或表面波;固定SWS的半径和束电压时,即使过模SWS的过模比在增大,但其功率容量随着周期长度的减小、束波作用频率的上升而减小。对任意相位的TM_0n混合模式,更高的模式纯度意味着更高的功率容量;较小过模比、较高模式纯度的SWSs的功率容量可以比更大过模比、更低模式纯度的SWSs功率容量更高。七、开展了冷腔行波的SWSs击穿特性的实验研究,得出以下结论:控制表面峰值场在1MV/cm以下是实现冷腔行波结构100ns的长脉冲传输的必要条件;在行波击穿试件中,射频击穿对微波传输的影响主要表现为吸收微波能量而不是反射微波能量;表面峰值场强的覆盖面积的增大将使得试件透射功率脉宽显著变窄;黄铜、304不锈钢材料击穿试件的功率容量、脉宽水平无明显差别;在行波击穿试件中,射频击穿对微波功率的吸收、反射程度与外加磁场的无明显关系。以上深入、细致的研究工作为过模Cerenkov型HPM产生器件的精细化研究和技术指标的进一步提高奠定了基础。