在旋转机械设备故障诊断研究中，故障特征提取和模式识别关系到故障诊断的可靠性和准确性，因此是旋转机械故障诊断研究中的关键问题。利用轴承和齿轮的振动信号对其工作状态进行监测和诊断是目前旋转机械故障监测和诊断研究中最常用的方法。本学位论文应用经验模态分解、总体平均经验模态分解和局部均值分解等信号处理方法进行故障特征提取，并应用支持向量机进行故障模式识别。其主要内容如下：1、基于经验模态分解的轴承和齿轮故障诊断研究。针对旋转机械设备的工作环境恶劣难以提取故障频率的实际情况，应用奇异值差分谱理论对经验模态分解得到的本征模式分量进行消噪，更好地得到了轴承故障频率；通过计算经验模态分解所得到的本征模式分量的能量熵，在能量域角度找到了齿轮的故障特征，并进一步应用支持向量机对其进行模式识别，通过实例验证此方法的可行性；通过计算经验模态分解所得到的本征模式分量的奇异值熵，找到了齿轮的故障特征，并进一步应用支持向量机对其进行模式识别，通过实例验证此方法的有效性和在小样本情况下的可行性。2、基于总体平均经验模态分解的齿轮故障诊断研究。针对齿轮振动信号的非平稳特征和现实中难以获得大量典型故障样本的实际情况，提出了基于总体平均经验模态分解和支持向量机的齿轮故障诊断方法。首先通过总体平均经验模态分解方法将非平稳的原始加速度振动信号分解成若干个平稳的本征模式分量；齿轮发生不同的故障时，在不同频带内的信号能量值会发生改变，故可通过计算不同振动信号的能量熵判断是否发生故障；从包含有主要故障信息的本征模式分量中提取出来的能量特征作为输入建立支持向量机，判断齿轮的工作状态和故障类型。实验结果表明，文中提出的方法能有效地应用于齿轮的故障诊断。提出了一种基于总体平均经验模态分解奇异值熵和支持向量机的齿轮故障诊断方法。首先通过总体平均经验模态分解方法将非平稳的原始加速度振动信号分解成若干个平稳的本征模式分量，将得到的若干个本征模式分量自动形成初始特征向量矩阵；然后对该矩阵进行奇异值分解，提取其奇异值作为故障特征向量，并对其进行归一化，求得奇异值熵，根据奇异值熵值大小可以判断齿轮的故障类型；将奇异值故障特征向量作为支持向量机的输入，判断齿轮的工作状态和故障类型。实验结果表明，即使在小样本情况下，基于奇异值分解和支持向量机的故障诊断方法仍能有效地识别齿轮的工作状态和故障类型。3、基于局部均值分解的轴承和齿轮故障诊断研究。首先对轴承的振动信号进行随机共振消噪，然后对降噪振动信号进行局部均值分解，成功地提取出了轴承故障特征；应用局部均值分解对齿轮振动信号进行分解得到若干个乘积分量，求取每一个乘积分量的近似熵，进而找到故障特征向量，最后应用支持向量机对其进行模式识别。通过一故障诊断实例对此方法的可行性和有效性进行了验证，并与神经网络在训练时间和分类准确性方面进行了对比；通过求取经过LMD分解所得乘积分量的Lempel-Ziv指标获得轴承故障特征向量，进行了有效准确的故障诊断。4、基于极值域均值模态分解的滚动轴承和转子系统故障诊断。针对滚动轴承损伤性故障的故障诊断问题，提出了基于极值域均值模态分解的故障诊断方法，进行了故障特征频率的提取。首先将原始信号分解成若干个本征模式分量，然后通过计算各个本征模式分量与原始信号的相关系数确定包含故障特征信息的主要成分，除去虚假分量。最后针对主要成分的本征模式分量进行Hilbert包络解调提取故障特征，即轴承的损伤性故障特征。通过工程实例信号的分析结果以及与经验模式分解方法的对比均表明，该方法能够较快地提取轴承的故障特征。针对转子不平衡故障和滚动轴承微弱损伤性故障的复合故障诊断问题，提出了基于第二代小波和极值域均值模态分解的故障诊断方法，进行了复合故障的耦合特征分离和故障特征频率的提取。该方法首先应用第二代小波对原始信号进行分解与重构；然后针对分解与重构出的低频信号进行频谱分析提取低频非调制故障特征；最后针对高频共振调制信号进行解调分析，以准确提取调制故障特征。通过工程实例信号的分析结果表明，该方法能够提取转子系统的复合故障特征。5、总结全文并提出了研究展望。