汽轮机、压缩机、燃气轮机等旋转机械是工业生产中常见的设备类型,在工业领域具有重要的应用。研究有效的方法监测设备的健康状况,诊断故障的类型、位置、严重程度,对于保证机械设备的正常运行、避免经济损失和人员伤亡具有重要意义。振动诊断方法是转子系统故障诊断领域普遍采用的方法,主要包括故障机理、故障特征提取和故障模式识别三个方面。因此,本文在时变滤波经验模态分解的基础上,分别从以上三个方面展开转子系统故障诊断的研究。首先,总结了转子系统常见的碰磨、裂纹、油膜涡动、不平衡故障的故障特征;建立了典型故障状态下的的转子系统动力学模型,采用计算机数值分析方法求解各个故障的运动微分方程,得到各个故障的仿真信号,从而为开展转子故障诊断研究奠定理论基础。为有效提取转子故障信号的特征,将时变滤波经验模态分解(Time Varying Filtering Based Empirical Mode Decomposition,TVFEMD)应用于转子系统的故障诊断。首先,针对该方法存在的参数选取盲目问题,研究了采用粒子群算法进行参数寻优的参数优化TVFEMD方法。然后,采用参数优化TVFEMD与Hilbert变换结合,作为一种时频分析方法,从转子故障信号中提取故障特征。最后,经对转子故障仿真信号和实验采集的故障信号分析表明,该时频分析方法能够从故障信号中有效提取故障特征,且与现有方法相比具有较强的优越性。在参数优化TVFEMD与Hilbert变换相结合的时频分析方法基础上,根据不同故障信号时频分布特征的区别,研究了一种基于信息熵和粒子群优化支持向量机实现故障类型识别的方法。首先,对转子故障信号进行参数优化时变滤波经验模态分解和Hilbert变换,获取信号的Hilbert时频图。然后,计算时频图的部分频带能量熵。最后,将熵值作为特征向量输入支持向量机实现对转子状态的识别。经对仿真和实测转子故障信号进行诊断,结果表明,该方法能够准确判别正常、不平衡、碰磨、油膜涡动等转子系统典型状态,且不受转子转速影响;与EMD结合时频熵的方法相比,具有更高的诊断精度。