近些年,过模器件由于在功率、脉宽、效率等方面较单模器件有很大优势而备受关注,过模O型Cerenkov振荡器是其中的典型代表。本文针对该类器件中的高频结构特性分析、热腔模式成分分析及输出模式纯化等相关问题开展理论和仿真研究,为进一步开展相关研究奠定了坚实的基础。主要内容包括:首先,为了快速准确的得到描述全管复杂结构谐振特性的S参数,采用模式匹配法。阐述了模式匹配法的思想和推导方法,详细推导了圆波导阶梯模式匹配法的相关公式,并编写程序就多个例子进行了求解分析,结果与HFSS仿真结果符合良好,结果表明可以运用模式匹配法快速求解复杂高频结构的S参数。其次,为了分析器件含电子束区域如准直孔处的模式成分,推导了考虑电子束情况时的圆波导色散方程,对色散方程进行了数值求解,将结果与不考虑电子束时的结果进行对比,发现电子束使得色散曲线有一定程度的抬高。分别讨论了电子束厚度、等离子体频率和电子束位置这三个主要参数对色散曲线的影响,发现电子束位置对色散曲线的影响较大,电子束厚度与等离子体频率对色散曲线的影响较小。介绍了输出模式成分分析的方法,将电子束对色散关系的影响考虑进去,分别分析了一个X波段过模Cerenkov振荡器准直孔处与漂移段处的热腔模式成分,发现准直孔处的模式成分分析结果较为准确,漂移段处的模式成分分析结果不够准确。最后,为了实现过模器件输出模式的模式纯化,并将模式耦合法运用到模式纯化器的设计中,介绍了模式耦合法,给出了半径渐变波导的模式耦合方程,就一个例子进行了编程计算,与文献中的结果符合良好。阐述了输出模式纯化的思路和方法,并将模式耦合法应用到求解模式纯化器的设计计算中,主要用于计算实现模式纯化时两个模式需满足的初始相位关系,进而指导相位调节直波导的设计。对一个X波段过模RBWO,运用该方法设计模式纯化器,并进行了整管的热腔模拟,结果良好。最后,针对模式纯化器在实际应用中可能存在的问题进行了讨论。