电网稳定运行是确保国民经济高效发展的基本保障,现代电力系统规模逐渐增大,复杂度逐渐提高,其内部的低频振荡问题日益突出,严重影响系统稳定性。国内外电力系统受低频振荡的影响产生过多起电网故障事件,造成巨大的经济损失。因此,研究更适用于现代电力系统的控制方法,优化发电机励磁系统的控制性能,是众多措施中最为经济有效的措施之一。传统意义上解决低频振荡问题最有效的措施是加装电力系统稳定器(Power System Stabilizer,PSS),由于电力系统是典型的非线性系统,这一方法是在系统运行点附近小范围线性化的基础上进行设计的,当系统运行点改变时,控制性能必然会变差。以非线性控制理论为基础,本文也研究了非线性励磁控制器对提高电力系统稳定性的作用,论文主要工作如下:(1)本文首先概述了电力系统稳定性的基本概念与研究意义,对电力系统稳定性控制的发展历程进行了全面回顾,对当前发展的研究现状进行简要综述,主要包括传统线性PSS与非线性励磁控制器的研究。同时分析了励磁系统工程应用与非线性控制方法存在的问题。(2)分析了低频振荡形成的原因,并在Matlab中建立了海佛容-菲利普斯模型,分析励磁系统滞后特性,描述了电力系统稳定器的原理。以工程应用为背景研究励磁系统PSS相位参数整定软件,并采用粒子群优化算法(Particle Swarm Optimization,PSO)优化控制器相位参数,达到最优控制效果,为工程现场整定励磁控制器参数提供高效手段。(3)分析了传统终端滑模控制器的设计过程,并设计全局快速终端滑模励磁控制方法,通过Lyapunov函数分析控制器稳定性,并通过仿真验证对比该方法的高效性。(4)采用输出反馈设计非线性超螺旋滑模(Super-twisting Sliding Mode Controller,SSMC)励磁控制器,保证控制器具备端电压调节功能,解决了采用状态反馈设计控制器无法控制机端电压的问题。仿真证明该方法具有较强的全局稳定性与抗干扰能力,且性能优于PSS。