近年来,随着工业4.0和工业互联网的不断发展,机械设备朝着智能化、信息化、集成化方向发展,旋转机械作为机械设备的重要组成部分,一旦其发生故障,将会造成巨大的经济损失甚至威胁人员安全。然而,工业设备的复杂工况导致旋转机械的振动信号呈现非平稳的特点,传统的故障诊断方法在分析非平稳振动信号时并不能完全表征机械的故障状态。同时传感器技术及大数据快速发展的背景下,振动监测的采集数据量大幅增加,对故障诊断的准确性和快速性提出了更高的要求。因此,本文研究了基于非平稳振动信号的旋转机械故障诊断方法,根据故障诊断基本流程,重点研究了基于盲源分离和包络迭代的信号降噪及特征加强预处理方法、振动信号的时频分析故障特征提取方法和基于优化支持向量机的故障模式识别技术。论文的主要研究内容如下:（1）分析了典型旋转机械的振动原理及故障特征本文分析了轴承、齿轮和轴等旋转机械的振动原理及故障特征;首先,从旋转机械的振动原理出发,建立了轴承、齿轮和轴的故障振动模型;其次,分析了旋转机械的常见失效形式及故障类型;接着,在机械振动模型的基础上,结合旋转机械的常见故障形式分析了其故障特征;最后对本文的振动数据采集实验台组成进行了介绍,并阐述了试验台测点及模拟故障设置。（2）提出了Power ICA降噪及包络迭代特征加强方法本文提出了Power ICA和包络迭代的预处理方法,该方法主要分为Power ICA降噪处理和降噪信号包络迭代特征加强两个部分。首先,阐述了盲源分离模型及独立成分分析理论,并在此基础上对Fast ICA及其改进算法Power ICA进行了分析;其次,以变转速故障轴承振动模型为基础,介绍了包络解调方法,并提出了平方包络迭代滤波的特征增强方法,同时引入了阶次分析方法以验证方法有效性;然后,结合Powe ICA及平方包络滤波方法提出了基于Power ICA和包络迭代的信号降噪和特征增强方法;最后,通过仿真实验和采集数据的阶次分析结果来验证所提方法的有效性。（3）提出了基于泛谐波调频小波变换的二阶同步提取变换时频分析方法本文提出了基于泛谐波调频小波变换的二阶同步提取变换的时频分析方法。首先,以线性调频小波变换为基础,介绍了参数化时频分析的原理;其次,阐述了同步提取变换和二阶同步提取变换的优越性;然后,提出利用广义参数化时频方法代替短时傅里叶变换以提高二阶同步提取变换的时频分辨,具体解释了基于泛谐波调频小波变换的二阶同步提取变换原理。最后,以瑞利熵和相对平均误差作为度量方法的性能指标,将所提方法与其他常用时频分析方法进行对比分析,以验证所提算法在提升时频谱分辨率和瞬时频率估计方面的优越性。（4）实现了基于莱维飞行粒子群算法优化支持向量机的故障类型分类本文提出了基于莱维飞行粒子群算法优化支持向量机的故障类型分类算法。首先,阐述了传统支持向量机的基本原理及其优缺点;其次,分析了粒子群算法的局限性及莱维飞行的基本原理;接着,提出了以莱维飞行改进粒子群算法优化支持向量机的故障分类算法;最后,以实验数据为基础,结合上述预处理技术和特征提取技术,提高信号信噪比并提取振动信号时域、频域和时频域上共7个数理统计特征作为所提算法的特征向量,以验证所提方法的分类的精确度。