随着对高功率、长脉冲、高重频微波的需求，采用过模结构成为高功率微波（High Power Microwave，HPM）源的重要发展趋势。由于束波相互作用机制和输出结构等方面的限制，过模HPM源实际上无法完全实现输出模式的单一性，因此研究过模HPM源的输出模式成分具有重要意义。本文从远场辐射方向图分析和在线模式诊断装置两方面对过模O型Cerenkov高功率微波源的输出模式进行研究。一是针对过模HPM源输出微波模式复杂的特点，研究了不同混合比例和相位差条件下混合场的远场辐射特性，结果表明：随主模成分降低，远场辐射方向图主瓣变宽、增益降低，副瓣降低；随各模式之间相位差增大，远场辐射方向图主瓣变窄、增益降低，副瓣升高。在此基础上提出了利用远场辐射方向图反推过模HPM源模式成分和比例的方法，利用数值拟合法对典型圆锥喇叭的远场辐射场模式成分进行了数值分析，得到了较好的拟合结果。二是研制出用于分析X波段长脉冲过模HPM源输出模式的在线模式诊断装置。该在线模式诊断装置是基于选模定向耦合器实现的，与通常在线测量功率使用的定向耦合器相比，有以下两个特点：一是主波导、副波导及耦合孔尺寸较大，功率容量高；二是具有非选模和TM01模选模两个耦合臂，通过测量并比较两耦合臂的输出功率可以分析HPM源的输出模式成分，从而实现对过模HPM源的模式诊断。对耦合器的冷测结果与设计结果基本一致。并开展了高功率测试，初步得到了HPM源输出TM01模和TM02模功率成分分别为90%和10%的诊断结果，验证了在线模式诊断装置进行模式分析的可行性，对诊断过模HPM源输出模式成分具有重要参考价值。