电力系统的结构日益复杂、规模日益庞大,电网的安全稳定运行面临着严峻的挑战,其中电力系统低频振荡问题已经成为现实威胁之一。本文针对振荡模态进行参数辨识,并协调优化电力系统稳定器（PSS）的参数,增大系统阻尼,使系统对低频振荡具有更强的抑制能力。由于噪声会干扰Prony算法的辨识性能,所以本文设置了VMD算法预处理去噪环节。首先通过变分模态分解算法将原始含噪信号解调为若干模态分量,然后根据相关系数和豪斯多夫距离双重判据提取有效分量并重构信号,最后利用Prony算法对重构信号分析辨识。通过构造模拟信号和IEEE经典的四机两区域系统作为仿真算例验证去噪性能和模态参数辨识,结果表明本文方法的去噪性能优异,可准确辨识低频振荡的各模态参数。在参数辨识的基础上,根据参与因子法确定PSS的安装位置,综合考虑阻尼比和特征值实部设计目标函数来增加系统阻尼、提高系统稳定裕度,保证协调优化策略的适应性和鲁棒性。针对WOA算法易陷入局部最优、收敛精度不理想、收敛速度慢等不足,本文通过最优鲸鱼位置的自适应权重策略、变螺旋位置更新策略和线性时变收敛因子的非线性化策略对其改进,引出了基于混合策略改进的鲸鱼优化算法（MSWOA）,增强了全局搜索能力,提高了收敛精度和收敛速度,通过典型基准测试函数对算法性能的测试验证了改进策略的有效性。利用MSWOA算法优化PSS参数,改善了系统的欠阻尼情况,提高了系统运行稳定性,通过四机两区域系统仿真证明了所提方法的有效性。