市场条件下重组的电力系统的运行点比以往更接近稳定极限,这促使电力工业界努力获得对于系统稳定性的更深刻的理解并开发出更加有效的稳定控制方法。本文以非线性动力学为背景,探讨了注入功率空间上电力系统潮流可行域边界的几何性质,揭示了负荷模型对小扰动电压稳定域边界分岔性质的影响,深入分析了电压振荡阻尼和互联系统低频振荡阻尼的性质与机理,同时提出了获取潮流可行域边界的可信而有效的新算法——混合法,指出了“两步法”在小扰动电压稳定域边界确定中的重要性,发展出了新的基于Prony分析的多机系统阻尼转矩系数算法。本文首先结合优化技术与“预测-校正”思想提出了一种在二维空间计算可视化潮流可行域(Power Flow Feasibility Region, PFFR)的新算法——混合法。在将PFFR解耦为“负荷注入子空间的”以及“发电注入子空间的”的基础上,混合法被拓展到了高维空间,能够计算不同子域的“最近”或“最远”边界点。特别重要的是,通过对混合法计算结果的分析,本文发现“发电注入子空间”上的PFFR的边界在电力系统实际可能的运行范围内可以利用超平面近似。然后,本文研究了计及动态负荷模型下的潮流可行域与小扰动电压稳定域边界的关系,发现感应电动机的存在使得系统在Fold分岔点之前就出现由于电动机滞转引起的SNB点,而这些SNB点不一定会造成系统出现电压崩溃。通过对CPF、分岔方法以及两步法的比较,本文指出对大系统而言,更精确的电压稳定极限判定中需要采用“两步法”(先由潮流解得平衡点,再做特征值分析),且当系统中拥有大量感应电动机负荷时,在“两步法”之后通过时域仿真确定所发现的SNB的性质是非常必要的。为了揭示电压失稳的单调模式与振荡模式的起因,本文在单机系统上推导了新的计及感应电动机负荷的P-H模型以及电压振荡阻尼系数γ,从理论上证明了:与纯静态负荷不同,超过一定比例的感应电动机负荷的存在可使小扰动电压稳定域的边界上只出现SNB点而不出现Hopf分岔点; 慢速励磁和大容量并联电容补偿相互作用可产生负阻尼。这些结论也在实际大系统的仿真中得到验证。为了明确与互联系统低频振荡相关阻尼的性质与数值确定方法,本文论述了阻尼转矩系数矩阵的来源与含义,分析了现有的基于时间序列数据拟合的阻尼转矩系数算法的局限性,进而针对该局限性提出了新的基于Prony分析的电磁转矩系数算法。同时,本文还以全国联网系统为背景,提出了大区电网弱互联削弱系统阻尼、引发低频振荡的新机理,澄清了人们对机电暂态仿真中所用同步电机模型的疑虑。