转子系统是旋转机械的重要组成部分，其动态特性一直备受关注。就其本质而言，转子动态特性问题绝大多数是属于非线性的。随着生产与科学技术的发展，旋转机械向高速、重载、轻型化和自动化方向发展，转子系统动态特性分析与应用研究已是一项迫切的任务。本文开展了转子系统故障诊断与模态参数辨识的研究，主要内容如下： 1、本文应用局域波法对非线性系统、非平稳信号分析进行了研究。通过几种时频分析方法的比较，表明局域波法对于非平稳、非线性信号的分析更具有效性，局域波时频分析清晰地描述非线性系统的特性，对非线性系统给出了更深的认识。 2、将局域波时频分析方法应用于转子系统故障诊断领域，为转子系统故障诊断提供了新的诊断方法。 局域波法为转子轴心轨迹的提纯提供了有效的途径，通过局域波分解后的IMF来重构信号，剔除了噪声的干扰，保留了有用的故障信息，利用重构信号合成的轴心轨迹清晰地反映了转子系统的油膜涡动故障特征。 应用局域波分析转子系统动静件碰摩和不对中早期故障信号，并且和传统的频谱分析结果进行了比较，结果表明局域波分析能够清晰地反映了故障转子振动信号能量的时频分布特征，克服了全域波信号分析造成的能量扩散和泄漏，可用于转子早期故障发展的特征提取。 以Jeffcott裂纹和碰摩转子为研究对象，建立了裂纹和碰摩转子耦合振动的分析模型，应用局域波时频分析方法来分析裂纹和碰摩故障转子耦合振动信号的时频特征，为工程中多非线性故障转子系统的振动监测与故障诊断提供了很好的依据。 3、提出了基于IMF和混沌的微弱信号检测方法。通过混沌振子Duffing方程解的特性分析，应用分形技术来识别混沌运动及其分岔参数，为实际应用中混沌振子的准确设计提供了保证，阐明了对转子系统早期不对中故障信号进行检测和诊断的机理，对于工程实际中转子系统的早期故障诊断提供了有效的依据。 4、探讨了分形动力学理论在转子系统故障诊断中的应用，将局域波法和分形理论相结合，提出了以IMF分形维数作为状态特征量的转子系统故障诊断方法。通过分析不同故障状态下的响应信号局域波分解后的IMF分形维数对不同故障的敏感性，细致地刻划了振动信号中所蕴含的信息，反映了产生相应故障的动力学机制。仿真信号和转子故障实测信号的分析验证了该方法的有效性。 5、将局域波法应用于非线性系统的模态参数识别，为非线性系统的模态参数辨识提供了新的方法。通过对立方刚度非线性系统的模态参数的辨识，仿真结果验证了方法的有效性。针对转子系统的模态参数测试识别的问题，提出测取转子系统在降速过程非稳定运行工况下的振动响应信号，应用本文提出的非线性模态参数识别方法得到了转子系统的瞬时固有频率和瞬时阻尼系数。