旋转机械在工业生产中应用广泛,以汽轮机发电机组为典型代表的大型旋转机械轴系跨度大、结构复杂、工况多变,对其工作状态进行监测和故障诊断有利于及时采取控制措施、避免重大或恶性事故发生;而中小型旋转机械常以滚动轴承作为支撑,探索轴承故障的有效诊断方法,对保障设备安全和生产顺利进行同样具有重要意义。本文从振动信号分析和处理的角度出发,针对转子系统碰摩、油膜涡动、油膜振荡等典型故障诊断和滚动轴承的故障诊断、故障模式识别等几个问题展开了研究,主要内容如下:对变分模态分解(VMD)的基础理论和基本原理进行了深入剖析,研究了VMD具有与小波包分解类似的带通滤波特性和良好的多分量信号分解能力,讨论了分量个数、惩罚因子对VMD效果的影响,结合Teager能量算子解调速度快、分辨率高的优点,提出了一种Teager-VMD时频分析新方法,并以互信息准则判断各分量与原信号的相关性,用于指导分量个数的确定。转子系统实验数据分析表明,该方法能清晰的表现非平稳信号的时频特征,实现了对轻微碰摩与严重碰摩的准确判断,清楚的检测出油膜涡动发生发展的整个过程,并准确的分析出油膜振荡时的复杂频率成分,对比分析表明该方法对转子系统故障的监测和分析能力明显优于HHT方法。研究结果表明转子发生油膜振荡时,不仅会有工频和振荡频率,而且还有与二者相关的和差频率成分出现,这对准确判定油膜振荡的发生有重要参考价值。VMD尽管采用变分的方式进行分解,但仍存在一定的端点效应,为满足精准分析的需求,采用波形匹配端点延拓的方式对其进行了改进,仿真和实验数据分析表明,改进后端点效应得到明显改善。滚动轴承作为旋转机械中重要而又容易磨损的元件,故障早期冲击特征微弱,又受环境噪声的影响通常难以准确判断,针对这一问题,提出了基于最小熵解卷积(MED)和VMD的诊断方法,MED能够突出振动信号中的故障冲击成分并降低噪声的影响,将MED降噪后的信号进行VMD分解,进一步分离出故障冲击成分,轴承微弱故障仿真信号和全寿命周期加速疲劳实验信号分析结果,验证了所述方法的效果。相比于MED,最大相关峭度解卷积(MCKD)算法以相关峭度作为衡量标准,检测和增强故障冲击能力更强,并注重故障脉冲成分的连续性检测,在阐述其原理的基础上,提出了基于变步长搜索法的自适应MCKD滚动轴承早期故障诊断方法,轴承全寿命周期振动信号分析表明,该方法能更早的诊断出轴承的早期故障状态。受设备结构、传递路径等影响,传感器采集的滚动轴承故障振动信号具有非线性、非平稳特点,相空间重构能够挖掘非线性时间序列的深层次信息,结合平稳子空间分析(SSA)这一盲源分离方法,提出了一种基于相空间重构和SSA的轴承故障盲源分离方法;首先应用相空间重构将一维振动信号升维到高维空间,再利用SSA方法将包含故障冲击的非平稳源信号分离出来,并借助谱峭度法进行带通滤波,仿真信号和实验信号分析表明,该方法能有效提取出滚动轴承的故障冲击成分,实现了轴承故障的盲源分离。针对旋转机械中滚动轴承的运行状态识别问题,提出了一种基于VMD、改进多尺度排列熵(IMPE)和概率神经网络(PNN)的轴承故障模式识别方法。首先利用VMD分离出富含故障冲击成分的分量,然后采用IMPE算法挖掘该分量不同尺度的特征并构造特征向量,最后将特征向量输入PNN分类器进行训练和测试,实现了滚动轴承不同损伤类型及不同损伤程度的识别。