电力系统是典型的高维非线性动态系统，目前尚不能完全了解其复杂动力学行为的各种特性，特别是电力系统稳定性已成为关系国计民生的重要研究课题之一。随着我国特高压战略的逐步推进，互联电网的规模愈加庞大，发生系统稳定性破坏事故的影响将难以估计。而近十年来北美、巴西、印度等地频频发生的大停电事故时刻为我们敲响警钟。基于能量函数法的暂态稳定性分析是非线性理论在电力系统中较为成功的应用之一，由于能够定量地给出系统的稳定程度并避免了复杂的数值积分，这种方法尤其适用于在线稳定评估，它与时域仿真法相辅相成共同构成了电力系统稳定分析的有效手段。电力系统稳定分析的最终目的在于系统镇定控制，进而提高电网的稳定性。现有的能量函数法多适用于较为简单的模型，在模型精度、理论深度和系统稳定控制器设计等方面仍需不断完善和发展，而Hamilton系统理论方法为其提供了有力的数学分析工具。本文基于广义受控Hamilton系统理论探讨计及转移电导和发电机励磁及FACTS装置的电力系统稳定控制和各控制器间的协调控制问题；并利用自治Hamilton系统周期解理论分析电力系统低频振荡现象，通过引入交直流互联系统的能量函数研究抑制低频振荡的直流附加阻尼控制器的设计方法，进而研究HVDC与TCSC的协调控制问题。本论文的主要研究内容和结果总结如下。在广义Hamilton系统理论框架内提出了一种具有更为一般形式的伪广义Hamilton系统结构，在Hamilton能量函数基础上通过构造系统局部Lyapunov函数成功设计了可使系统渐近稳定的控制器，并引入无源性理论，提出一种保证系统具有L2干扰抑制特性的鲁棒控制策略，给出了若干定理、条件和判据。在上述理论基础上，将所提出的系统框架和控制器设计方法应用于含转移电导和发电机励磁的多机系统简化网络模型，基于“能量平衡+阻尼注入”的思想提出一种发电机励磁控制器设计方法，所提出的控制策略理论依据清晰，具有明确的物理含义；进而将含不确定扰动因素的电力系统模型表示成伪广义Hamilton系统形式，给出一种满足L2性能准则的发电机励磁鲁棒控制策略；最后用数值仿真分别验证了所提出的两种控制器设计方法的正确性和有效性。利用广义Hamilton系统的内在结构特性实现电力系统发电机励磁和TCSC、SVC等FACTS装置的协调控制。首先针对孤立大型发电厂往远方负荷中心送电且输电线加装TCSC的应用场景，通过引入系统等效电纳的虚拟控制输入，在单机无穷大系统基础上完成了系统广义耗散Hamilton实现，以系统暂态能量下降为控制目标给出了保证系统渐近稳定的反馈控策略，利用系统的内在结构特性直接实现了发电机励磁和TCSC间的协调控制，对某典型工程示例进行数值仿真，结果验证了本文所提出控制方法的有效性；进而考虑含SVC和发电机励磁的简化网络模型，将SVC的动态过程包含在时变的系统导纳阵中，给出了多机系统伪广义耗散Hamilton实现，构造系统的局部Lyapunov函数并利用L2增益干扰抑制方法设计了发电机励磁和SVC的鲁棒协调控制器，并将控制策略表示为可量测的形式，最后用3机9节点系统算例仿真验证本文所提出协调控制策略的正确性和有效性。将Hamilton系统理论应用到电力系统低频振荡分析和抑制这一领域。首先以单机无穷大系统作为研究对象，通过构造系统Hamilton能量函数给出自治Hamilton系统模型，利用Hamilton系统周期解理论分析简单电力系统的低频振荡频率特性，为从非线性系统角度解释低频振荡机理提供了新的思路；进而研究交直流互联电网的低频振荡抑制问题，基于惯性中心等值法建立了区域互联电网的等值系统模型，通过定义具有系统振荡能量概念的Hamilton函数给出了系统的广义Hamilton实现，从降低系统振荡能量角度出发给出HVDC附加阻尼控制器设计方法，利用HVDC的快速功率调制能力快速平息系统振荡；最后研究交直流互联电网在并列交流线路中装设TCSC的情形，给出含TCSC模型的交直流系统Hamilton实现，利用系统的内在结构性质给出HVDC和TCSC的协调控制策略，从而有效提高交直流互联电网抑制区间低频振荡的能力。