太赫兹科学技术具有重大的应用前景,是当今科学研究领域的重大热点。而太赫兹源又是太赫兹科学技术研究的关键,在众多的太赫兹源中,电子回旋脉塞具有高功率、高效率的特点,是一种重要的太赫兹源。目前在国际上,美国、俄罗斯、欧洲、日本等国家在电子回旋脉塞的研究方面理论和技术都较为成熟,而我国与之相比还有比较大的差距。回旋行波管作为一种特殊的电子回旋脉塞原理器件,在高功率雷达、微波毫米波通讯、精确武器制导、粒子加速器等领域具有广阔的应用潜力。但是,回旋行波管很容易受到各种不稳定性寄生振荡的干扰,故相对于回旋振荡管和回旋速调管而言,回旋行波管的发展相对滞后。特别是当工作频率进一步提高至太赫兹频段时,往往需要采用更高阶的模式来维持回旋行波管的功率容量,但是工作在高阶模式也意味着模式竞争更为严重。因此,能够有效抑制寄生振荡的高频结构一直都是回旋行波管研究的重要方向之一。从回旋行波管的物理本质出发,本文总结了回旋行波管设计中的关键问题和回旋行波管高频结构的发展。采用了具有模式选择特性的高频结构,即准光波导结构,并研究了其场分布及衍射损耗的特点,分析了其中比较特殊的高频结构,即共焦波导结构,并将其色散关系与圆波导进行了对比,阐述了准光波导模式密度较圆波导更稀疏的特点。随后,本文基于单粒子理论建立了准光回旋行波管的线性理论,获得了其初步的工作参数,计算得到了其线性增益及带宽。介绍了回旋行波管中的不稳定性,包括绝对不稳定性、回旋返波振荡、反射振荡以及起始损耗等物理概念。详细研究了准光回旋行波管中主要竞争模式的返波振荡,计算了准光回旋行波管中可能出现的起振电流,并与圆波导的情况进行了对比。结果表明:由于准光波导衍射损耗的存在,其模式密度较圆波导稀疏,故模式竞争较圆波导得到很大缓解;与此同时,准光波导回旋行波管相关模式的起振电流较圆波导中有关模式高的多,这意味着,相较于传统的圆波导回旋行波管,准光回旋行波管具有更大的稳定工作在高阶模式的潜力,从而大大提高了准光回旋行波管的功率容量。之后,本文中推导了直角坐标系中的非线性注波互作用理论,包括具有相对论效应的电子运动方程和高频场方程。推导的方程为稳态多模非线性方程组,并根据具体的互作用模拟对其进行数值处理。在本文的数值计算中,我们仅采用了单个模式,结合具体的边界条件、初始条件并考虑一定的速度零散,编制了 0.34THz准光回旋行波管的互作用程序。在注波互作用的数值计算中,我们考虑了准光波导中的衍射损耗和欧姆损耗,并采用了能量守恒定律验证数值计算的准确性。针对准光波导的特点,探讨了采用特殊电子枪的可能性,并将之与传统电子枪的数值计算结果进行了对比,结果显示采用扇形电子枪具有提高效率、缩短互作用长度等特点。最后,鉴于现有的实验条件,我们对0.17THz准光回旋行波管进行了理论和仿真研究,仿真研究包括输入耦合器、输出耦合器以及扇形电子枪,探讨发射带的变化对电子枪性能的影响。仿真结果表明,0.17THz准光回旋行波管的输入耦合器、输出耦合器设计均具有较好的工作性能。而在电子枪的仿真研究中,我们发现发射带的变化对电子枪工作性能的影响非常小,扇形电子枪在准光回旋行波管的设计中具有一定的实用潜力。