随着现代科学技术的不断发展，使得对毫米波大功率辐射源的探索成为了目前电真空器件的一个热点研究方向，同时也对微波器件的工作频带、输出功率和互作用增益等性能都提出了越来越高的要求。行波管具有宽频带、大功率、高可靠性等优点，是一类非常重要的大功率辐射源。本论文在深入分析毫米波行波管的发展方向、应用前景及研究现状的基础上，研究了如何提高毫米波行波管的输出功率、拓展互作用带宽，提出了三类结构简单、易于加工、适用于毫米波、短毫米波器件的新型慢波结构——角向周期加载金属柱圆波导、开敞型角向周期加载金属柱圆波导、角向周期加载螺旋线圆波导，为解决现有行波管在毫米波波段所遇到的输出功率下降和加工难题给出了新的解决方案。本论文从慢波结构的数值理论分析、计算机模拟和实验测量三个方面对所提出的新型结构进行了深入地研究，主要工作和创新点如下：一、在常规介质契伦科夫器件基础上，为了提高其耦合阻抗，改善此类行波管的增益特性，提出了角向周期加载金属柱圆波导慢波结构。从理论上分析了该结构的高频特性和小信号增益特性，得出了结构参数对其性能的影响规律。通过分析发现：相比于常规介质加载圆波导毫米波行波管，当结构的尺寸参数相同时，新结构的工作频率以及耦合阻抗都远高于原结构；当两种结构的色散特性相同时，新结构的耦合阻抗在研究频段内平均提高了4.3倍。此外，通过对Ka波段角向周期加载金属柱圆波导行波管的研究发现，金属柱的加载使行波管的输出功率得到明显地提高，在30GHz处，行波管的输出功率峰值超过1200W，比常规介质加载圆波导行波管的输出功率提高了44.8%。二、为了抑制过模器件中的模式竞争，提高互作用效率和工作的稳定性，提出了开敞型角向周期加载金属柱圆波导结构。建立了该慢波结构的高频特性理论和线性注-波互作用理论，并进一步利用CST PIC-Solver软件建立了带有耦合结构的开敞型角向周期加载金属柱圆波导行波管的三维注-波互作用物理模型，对其非线性互作用情况进行了模拟分析。研究结果表明：通过采用开敞结构，可以使除工作模式以外的其它竞争模式的传输系数S12均小于-12dB；并且有效地提高了行波管的输出功率和互作用增益。相比于封闭型角向周期加载金属柱圆波导结构，采用该开敞型慢波结构行波管的输出功率和增益分别提高了28.3%和3.7%。三、为了解决常规螺旋线行波管在短毫米波波段出现的输出功率低和聚焦难题，提出了角向周期加载螺旋线圆波导行波管，其特点是：角向周期排列的N个螺旋线共用轴线上的一个具有大电流值的电子注。通过计算机模拟的方法对螺旋线尺寸对其色散性能和耦合阻抗的影响进行了分析；同时，推导出了该结构慢波特性的理论计算模型，为后续的设计奠定了理论基础。利用PIC粒子模拟，对此类结构行波管的注-波互作用性能进行了研究，并提出了140GHz行波管的具体设计方案。所设计的行波管在电压3758V、电流0.25A、输入功率为50mW的工作条件下，在34GHz频带（120GHz-154GHz）内，其输出功率大于55W，最大增益值和最高电子互作用效率分别为25.98dB和8.43%。因此，在研制小型化宽带大功率毫米波、太赫兹行波管方面，角向周期加载螺旋线行波管具有发展潜力。四、为了验证本论文中所提出的高频特性理论的正确性和所采用的计算机模拟方法的可靠性，对角向周期加载螺旋线圆波导结构进行了实验研究。设计和加工了角向周期加载螺旋线圆波导的实验模型，并对该模型的色散特性进行了实验测量，实验结果显示，测试值与计算值吻合良好，验证了本论文理论分析和模拟过程的可靠性。