自由电子激光(FEL)具有良好的相干性,极高的峰值功率,而产生群聚的电子束是实现相干辐射的关键。FEL原则上可工作于任意波段,目前在不同的波段发展了具有不同特点的多种FEL相干辐射机制。本文首先对FEL的主要工作模式、发展历史、发展方向进行了回顾和总结,然后介绍了 FEL理论基础、多种相干辐射机制、数值模拟软件,在掌握FEL物理研究方法的基础上,对多种FEL相干辐射机制及相关的物理问题进行了深入的研究,包括振荡器FEL、预聚束THz FEL、PEHGFEL以及多色多脉冲FEL。介绍了振荡器的工作原理,分析了波荡器和电子束决定的单程小信号增益,然后利用波荡器的梯度降低振荡器对电子束能散的要求,结果表明电子束能散较大时,利用波荡器的梯度可显著提高增益和饱和功率;研究了腔镜反射率、耦合孔径、腔长失谐对振荡器输出特性的影响,腔长失谐小于一个辐射波长时,有最大的辐射功率;分析了振荡器FEL的自然锁模,当滑移长度远小于电子束长度并且腔长失谐较小振荡器处于深度饱和时,在时间频谱结构上脉冲会形成多峰结构。阐述了预聚束FEL工作原理,对比其他辐射机制,分析了预聚束FEL的辐射功率,然后给出了预聚束FEL的群聚因子和能量分布函数,之后对THz FEL波荡器进行了物理设计,研究了基于脉冲串群聚基波辐射和二次谐波辐射;解析结合模拟验证了能散较小时决定预聚束FEL辐射带宽的主要因素,结果表明当微束团数远大于波荡器周期数时,最终辐射带宽接近微束团数分之一,反之,最终辐射带宽接近波荡器周期数分之一,对于预聚束FEL的谐波辐射,最终辐射带宽与谐波次数成反比。另外给出了可能由电子束参数和波荡器参数引入的抖动和误差。介绍了 PEHG的工作原理,解析结合模拟研究了利用波荡器自然梯度实现PEHG的方案,给出了高次谐波群聚因子的优化条件,结果表明NTG型PEHG可以取得与原始PEHG差不多的FEL性能,然后分析了主要参数对相位汇聚效果和饱和功率的影响,另外还研究了增强型PEHG,利用反相调制段抑制电子束的能散,结果表明利用反相调制段可实现较为可观的抑制能散效果,然后分析了主要参数对增强型PEHG的影响,最后研究了采用TGU和NTG在储存环上实现高重频PEHG的可行性。基于HGHG型FEL高次谐波工作模式,研究了多色多脉冲FEL。首先简要介绍了实现双色FEL和产生倾斜电子束的几种主要方法,然后提出了一种新型双色FEL方案,使倾斜电子束的不同部分在相邻的谐波上分别满足不同的共振条件进而产生双色FEL,然后分析了本方案光场的可调性,最后研究了通过采用较大的倾斜幅度和横向梯度,使得整个电子束长度内满足多个相邻谐波的共振条件进而产生三色FEL的可能性。