科学技术的不断发展和工业现代化水平的不断进步,使旋转机械设备的集成化和智能化程度越来越高,机械结构日趋复杂,导致部件间的耦合性越来越强,这不仅极大增加了运行故障风险,还放大了故障后果的严重性。因此,实时监控机械运行状态,提取有效状态信息,及时发现异常征兆,并依此判断机械故障类别指导选择应对措施,对于保证旋转机械的可靠运行和减少故障损失具有非常重要的意义。旋转机械最常见和最主要的故障是轴系振动故障,轴系运行过程中产生的振动信号携带了很多与轴系状态密切相关的信息,它能够反映轴系的健康状况,因此,轴系振动信号分析与识别是旋转机械故障诊断的基础和最重要的途径。此外,由振动信号合成的轴心轨迹,同样携带了很多轴系振动信息,其几何形态直接反映了轴系的运行状态,因此,轴心轨迹的形状识别是旋转机械故障诊断的另一种重要途径。轴系信号分析方法是通过对轴系振动信号进行处理分析,提取出能够揭示信号与机械运行状态间的固有联系的信息,建立信号与轴系状态之间的映射关系,实现轴系状态的表征和识别。轴心轨迹形状识别则是将轴系故障诊断问题转化成图像识别问题,通过建立轴心轨迹形状与轴系状态间的映射关系来识别轴系的状态。本文的主要创新性工作包括：(1)针对旋转机械轴系信号难以表征和识别的问题,深入研究了基于经验模态分解的数字信号处理理论体系,将其应用于轴系信号的特征提取。针对旋转机械轴系故障发生发展的固有特性,提出了一种基于无失真端点极值化的经验模态分解方法,并将其应用于旋转机械轴系信号的分析和特征提取。该方法有效抑制了经验模态分解中的端点效应和端点效应可能导致的信号失真,为轴系信号特征提取准备了一个完备的数据基础,提高了轴系故障表征和识别的准确性。(2)通过经验模态分解得到的信号特征包含了大量的冗余信息,其严重的影响了旋转机械轴系故障诊断的精度和效率。针对这一问题,深入探讨了传统特征选择方法和分层分类原理,集二者之所长,抽取分类树的分层特征选择机制,改变常规的特征优选模式,另辟蹊径,设计了一种新的冗余信息滤除方法。该方法以有效性为指导,设计启发式搜索规则,以性能补充为原则向已选特征子集补充当前最有效特征,具有计算效率高、所选特征子集小、子集区分能力强的特点。该方法还能够准确删除严重影响分类器性能的无效冗余信息,实现用简洁稳定的特征表示揭示故障间的固有联系,提高了分类器的分类精度和泛化性能,为旋转机械轴系故障的简洁准确表征提供了有效的特征优选机制。(3)基于分类树的分层特征选择方法删除了冗余信息,实现了特征子集的优化,促进了故障表征的准确性,同时提升了故障诊断的精度和效率。但是,特征子集的优化过程难免会删除一些有效性较小的信息,这对故障诊断的准确性是没有帮助或者是不利的。因此,深入分析了分层分类过程中特征的组织和利用机制后,本文提出了关联特征向量的概念。关联特征向量模拟人脑分层分类过程中的特征选择和组织机制,能够充分挖掘每一项特征对故障分类的最大贡献,有效抑制每一项特征对故障分类可能产生的干扰,同时还可以通过无效项放大不同类别之间的差异。另外,关联特征向量本身采用分层分类的特征选择和组织机制,适合于采用单层分类的简单分类机制,所以关联特征向量同时具备了单层分类精简性和分层分类的有效性。因此,关联特征向量不仅极大提高了特征向量对故障样本的表征能力,而且还保证了特征提取和后续故障诊断的时效性,是一种全新的旋转机械故障表征方式。(4)关联特征向量在样本表征上有革新性的优势,但是却不能准确地表征混叠模式。为此,本文在深入分析关联特征向量产生机制和对应特征提取方法的基础上,指出导致这个问题的原因是其对边界的“二值”逻辑处理模式。针对这一问题,本文以模糊逻辑取代“二值”逻辑,设计了模糊关联特征向量。模糊关联特征向量采用模糊逻辑模式处理关联特征向量产生和特征提取中的边界问题,在继承关联特征向量新奇独特结构的基础上,增强了普适性和健壮性,为存在少量混叠模式的故障诊断问题提供了一种简单高效的故障表征方式。(5)轴心轨迹识别是以图像识别的方式实现故障诊断,用传统的图像表征方法表征轴心轨迹时,普遍存在形状表征不全面、计算过程复杂和特征向量维度高等问题。针对这些问题,本文在深入研究四种最典型的轴心轨迹形状的基础上,提出了轴心轨迹直观特征的概念,分别从结构、区域和边界的角度定义了轴心轨迹的直观特征,并模仿人眼对形状的描述机制设计了相关直观特征的计算方法,以最简单的数学方式定义了轴心轨迹最有效最直观的特征。在此基础上,本文进一步提出了模仿人眼的轴心轨迹识别方法,它以直观特征为人眼,实现对轴心轨迹形状的宏观准确表征,以智能分类方法为人脑,实现轴心轨迹的智能识别。直观特征为轴心轨迹提供了一种新的优越的表征方式,模仿人眼的轴心轨迹识别方法为轴心轨迹的识别提供了一种简单、精确、高效的新方法。