自由电子激光(FEL)具有波长连续可调、可设计等新颖特性和高效率、高光束质量等潜在能力,在科学、国防、医学和工业等领域有广泛的应用前景。FEL振荡器中的光腔是整个装置的重要组成部分。目前,波荡器FEL光腔的设计与调试还面临着许多难点。这涉及到腔镜损坏、光腔损失,输出耦合,腔长调节,模式演化,对振动及非共线问题的敏感性,抽取效率等。也一直是FEL设计和实验中的瓶颈问题。开展有关光腔三维问题的研究仍属FEL理论前沿,对FEL理论研究的深化和实验装置的设计与改进具有重要意义。本文结合我国紧凑型远红外FEL振荡器和JLAB IR FEL的实际情况,对FEL振荡器中的三维光腔问题进行了理论和数值模拟研究,取得了下列进展。 对孔耦合和边耦合这两种输出方式进行了一定的研究比较。首次实现了加载条件下对边耦合光腔各种参数如输出功率、腔增益、耦合效率等随输出镜尺寸及位置的变化规律的三维数值模拟。证明了边耦合输出用于CAEP FIR FEL的可实用性。通过移动或者更换输出反射镜,改变输出镜尺寸和位置,可以灵活地选择和调节光腔的Q值,适应实验不同阶段的需要。并对谐振腔加入漂移管和不加漂移管两种情况进行了比较分析。这些对于实际装置有指导意义。 对两种输出耦合FEL光腔的模式作了理论研究,对边耦合光腔内的光场进行了模式分解与三维数值模拟。模拟了腔内光场的模式演化情况,及光场饱和时在光腔入口处、出口处、腔镜上的各阶模式分布情况等。证明了在合适的输出孔尺寸和位置的前提下,腔内模式以基模为主。然后在此基础上,采用基模近似方法,给出了光腔抽取率,衍射损失及腔损失的计算公式及变化规律曲线,并与模拟结果进行了一定的比较。 利用计算光束与电子束横向叠合因子的办法来分析了光腔有无波导管时对腔内增益的影响。在此基础上,用三维数值模拟来对比有无波导管时腔