机械设备经常在温度较高、载荷较大等工况条件比较复杂的环境下运行,其核心部件难免发生故障,而实际情况中,故障源往往不是单一的故障,而是不同的部件出现不同损伤等造成的复合故障,这将会极大地增大其故障诊断难度,严重影响企业的正常运转,甚至可能带来灾难性的后果。因此,旋转机械复合故障诊断是企业设备状态监测与故障诊断的关键环节之一,是机械设备稳定和健康运行的重要保障。为此,本文针对机械多源故障信号在复杂工况下稀疏性不强以及在耦合方式未知情况下难以提取故障特征等问题,开展了基于多源信号自适应稀疏表征分离算法及其应用研究。主要研究内容及结论如下:针对机械设备在实际运行过程中,传感器数目受限等复杂工况的问题,开展了基于内禀模态分解的盲源分离方法研究。首先,对采集到的故障振动信号进行自适应内禀模态分解。在传统分解过程中,目标分解信号为平稳信号,判别条件严格,然而在实际情况中,采集到的多为携带噪声干扰的振动信号,僵化的判别条件会导致算法无法收敛。针对该情况重新设置了适合振动信号的判别条件,并且在迭代过程中,构建了能量因子指标来作为算法的终止条件,在提高信号分解效率的同时,为复合故障诊断提供了帮助。针对传统盲源分离算法在求解欠定问题时面临的困难,提出了基于改进内禀模态分解方法与非负矩阵分解的欠定盲源分离框架。基于上述提出的内禀模态分解方法,对观测信号进行自适应分解,将难以解决的欠定问题转换为正定或过定问题。利用非负矩阵分解能够更好地解决实际问题的优势,开展了基于非负矩阵分解的欠定盲源分离方法研究并应用于轴承复合故障诊断。首先通过自适应内禀模态分解对故障信号进行处理,获得一定数量的分量成分。然后通过势函数方法对源信号数目进行估计,从而确定非负矩阵分解过程中的矩阵维度。此外,还开展了基于独立分量分析的研究,并在改进内禀模态分解方法与独立分量分析方法结合过程中引入遗传算法来优化分离过程,实现复合故障信号的盲源分离。针对设备振动信号稀疏性不足的问题,开展了基于稀疏盲源分离的信号分离方法研究。考虑到稀疏表示算法在处理大数据问题的优势,并且独立分量分析算法的前提条件在实际情况中较为苛刻,计算环节较多以及非负矩阵分解方法计算过程较为耗时,因此着重研究基于稀疏分量分析的盲源分离算法。首先对稀疏分量分析算法中的稀疏化条件展开研究。采用了基于小波模极大值的提高稀疏度的方法来获得稀疏观测信号。然后,基于获得的稀疏信号利用势函数来估计源信号的数量和混淆矩阵。最后,可以根据最短路径方法实现源信号的分离。此外,针对混合矩阵估计方法中,传统势函数计算方便但只能处理二维平面的问题,以及模糊聚类等估计方法不受维度限制但结果有一定随机性的问题,提出了一种新的混合矩阵估计方法。通过将二维平面映射到三维空间中,基于球坐标系构造了一组新的空间势函数,将矩阵估计问题转换为函数的极值求解问题。进一步研究了实际过程中卷积耦合的混合模型,通过基于三维势函数与卷积模型的映射关系,实现了复合故障诊断。针对稀疏分量分析过程中信号的稀疏性不足或估计矩阵存在偏差都会导致分离结果不准确的问题,开展了基于优化稀疏分量分析的方法研究,提出了分步式优化稀疏分量分析策略。首先,利用受控极小化方法对振动信号进行稀疏表示,接着采用三维势函数估计混合矩阵,最后构造参考信号实现分离。此外,在稀疏表示过程中,通常都采用凸的正则项来用于保证优化求解过程中问题具有全局最优解。然而,在很多实际应用过程中,非凸正则化往往能够获得更好的稀疏效果,即进一步增强稀疏性。因此,构造非凸正则项,并通过引入参数化系数来调节非凸正则项的结构,从而确定其在满足全局最优前提下的表达式。在获得良好稀疏表示效果的基础上,通过改进三维势函数方法,使其可以不受低维度限制的进行混合矩阵的估计,并且在恢复信号过程中,通过基向量的选取来提高算法效率。本论文以机械故障盲源分离为出发点,对机械故障诊断中的自适应分解方法、内禀模态分解方法、独立分量分析、非负矩阵分解、稀疏分量分析等盲分离算法进行了深入和系统的研究,特别是从稀疏性角度出发,深入研究了基于三维势函数、非凸正则化等算法的稀疏分量分析。研究成果对机械设备的状态监测和复合故障的分离具有重要的参考价值。