旋转机械是含有回转运动部件的机械设备，主要包括汽轮机、离心压缩机、通风机、机床及含有旋转部件的诸多机械设备等。随着科学技术的进步和现代工业的发展，旋转机械在电力、能源、交通、国防和化工等领域中发挥着越来越重要的作用，对旋转机械动力特性的研究也逐渐得到了人们的重视。旋转机械系统由于非线性油膜力、碰摩、裂纹和松动等因素的作用，在振动剧烈时会发生机毁人亡的重大事故。因此，大型旋转机械设备运行的稳定和安全可靠就成为生产中的首要问题，其在整个工业生产和国民经济中的重要性也日益突出。由于大型旋转机械的动力学问题大都具有非线性的特征，因而用非线性理论研究大型旋转机械故障的动力学问题就成为转子动力学中的重大课题。因此，应用现代非线性理论和转子动力学理论研究故障转子系统的非线性动力学行为对揭示该类转子的故障机理以及预防这些故障的发展有着十分重要的意义。 随着转子工作转速和效率的提高以及转子和定子之间间隙的减小，在工程中出现的碰摩故障越来越引人注目。因此，研究具有微小间隙的转子动力学行为对转子故障的早期诊断有着十分必要和重要的意义。本文以旋转机械的转子系统为主要研究对象，首先阐明了该课题研究的目的与意义；系统阐述了非线性转子动力学问题的研究方法、转子碰摩问题及其分叉混沌运动的研究概况。在此基础上，较系统、深入地研究了理想转子碰摩、含非线性刚度的转子碰摩及非对称转子碰摩故障的非线性动力学特性及其引发的分叉行为与混沌运动。本文的主要工作有以下几个方面： (1)应用Poincare映射方法对理想转子的单点碰摩运动进行了分析，通过严格的理论推导，得到了理想转子单点刚性碰摩的周期运动存在的条件，给出了判断理想转子周期性碰摩运动稳定性的特征方程，并应用数值方法得出了理论结果。 (2)用平均法求解了一类含非线性刚度转子系统非共振及主共振问题，分析了具有非线性刚度的转子系统主共振特性，给出了幅频响应曲线，分析了主共振非线性振动曲线所特有的现象。该系统的参数变化对稳态响应的性态影响很大，在参数值连续缓慢变化时，一般会导致响应幅值的连续变化，但在特定的参数下幅频响应会发生拐弯、跳跃和滞后等现象。并分析主共振时系统参数对定常解稳定性的影响，还用奇异性理论分析系统参数对系统主共振分岔拓扑结构的影响。 (3)用数值方法对非线性刚度转子系统的碰摩问题进行了研究。建立了非线性刚度转子—机匣系统的碰摩模型，应用数值分析的方法对其进行了研究，得到在不同系统参数下，系统响应随转速变化的分岔图，分析了系统参数偏心量、轮盘的等效外阻尼、碰摩刚度等参数对此类碰摩转子系统关于转速ω的分岔过程的影响，作出在相应参数状态