现代机械设备都有旋转机械部件,它在工程领域中拥有重要的影响,旋转机械的运行状态将直接影响机械设备的性能,因此对旋转机械故障诊断研究符合生产发展的需要。在诊断研究工作前,需要对机械振动信号处理,并进行特征提取。传统的信号处理及特征提取方法有傅里叶变换、全息谱、分形维数等,但这些方法的主要功能为分析信号,信息特征提取量往往无法达到要求。传统的故障识别方法有经验模态分解、固有时间尺度分解近似熵、支持向量机等,这些方法在一定上实现了旋转机械故障识别,但重点都集中在故障类型的识别,单独对诊断分类方法的改进或提取振动信号的某一特征来提高识别率。针对这些问题,本文在信号处理、特征提取、模态识别三个方面进行了研究,主要内容如下:首先,为了消除信号的噪声,在自相关去噪和经验模态分解(EMD)的基础之上,提出基于自相关和改进集合经验模态分解(MEEMD)的旋转机械去噪的方法。该方法先对原始信号自相关去噪,选择相适应的MEEMD和EMD得到本征模态,并计算相关系数,再对相关系数较大的本征模态重构,最后得到清晰的故障信号。通过不同旋转机械实验结果表明,该方法可以有效抑制旋转机械的噪声,能提取具有明显的冲击性振动信号。然后,为提取有效的特征信息,本文利用信息熵理论和小波包分解的特点,提出一种基于小波包能量熵的特征提取方法。该方法先对信号进行4层小波包分解,再计算各频带能量值,然后利用信息熵计算熵值,最后得到清晰的16个故障特征参数。通过不同特征提取方法实验的对比,该方法可以有效提取特征参数,使不同故障信号之间存在明显区别。最后,为了达到故障识别的目的和提高故障识别精度,本文在BP神经网络和各优化算法的基础上,通过优化算法的改进,提出基于混沌粒子群神经网络的故障诊断方法。该方法利用粒子群去优化BP神经网络,训练识别故障,再在粒子群神经网络的基础上,利用混沌算法偏历性的特点,避免局部最优,提高故障识别的精度。通过不同旋转机械实验结果表明,该方法可以有效提高故障识别的精度,最终实现故障识别。