非线性是自由电子激光系统所具有的普遍特征,本论文研究自由电子激光系统的一些非线性相关问题。作为论文工作基本出发点,对自由电子激光的基本理论作了细致推导。在相对论性电子非理想入射的情况下,对波荡器中的自发辐射频谱进行了解析推导和数值计算,并与电子理想入射的相应结果进行了对比。对具有轴向引导场的螺旋型波荡器中的电子行为进行了分析,对于忽略自场影响的可积情况,考察电子轨道的周期和准周期情况的判据,以及满足稳定螺旋轨道的条件；进而分析强自场情况下电子运动的混沌特性,利用庞加莱截面方法对于电子的混沌行为进行定性分析和确认。通过对近可积系统的理论分析,和对电子轨道数值模拟结果的李雅普诺夫指数计算,分别得到系统达到完全混沌的临界条件。在波荡器高阶磁场和自场同时作用情况下,分析电子横向运动,考察电子受横向约束的条件。基于Colson-Bonifacio自由电子激光解析理论,建立了一维稳态自由电子激光的Mathematica数值模拟程序,对于高增益自由电子激光中自场的影响做了理论分析和模拟计算。对近年国外研究人员新提出的自由电子激光系统饱和状态分析的统计物理方法做了修正,使之能适用于包含自场的情况,由此考察和分析自场对自由电子激光饱和光强的影响。