本文分析和总结了非线性动力系统中分岔和混沌的典型理论与算法,并利用此理论和算法对碰摩转子系统进行了较深入的研究,发现了其丰富的动力学行为,研究结果很好地解释了碰摩转子系统中一些复杂的非线性现象,为转子系统的故障诊断、振动控制及安全运行提供了理论参考。对混沌控制方法进行了较为系统的总结,用不动点定理分析了它们之间的内在联系,并构造了几种压缩映射施加于系统变量,成功地控制了多种不同类型系统的混沌行为。本文为一类非光滑自激振动系统的混沌寻找了四种有效的方法,就一般二维二次映射中的混沌与超混沌提出了一种节约能量,并能将系统控制到高倍周期和概周期的方法,它为研究许多现实离散系统模型提供了一种新的方法,因而具有一定的理论意义和应用价值。　　本文主要工作如下:　　(1)建立了一类具有非线性刚度的局部碰摩转子系统模型,并用数值计算方法分析了该系统中典型的非线性动力学行为,并同时分析了线性刚度下的局部碰摩转子模型的非线性动力学行为。主要采用了单初始点分岔分析法和Poincaré映射方法从不平衡量、刚度比、阻尼比等不同侧面揭示了转子系统的周期运动、概周期运动和混沌运动,以及这些运动形式的演化过程。　　(2)给出了非线性油膜力和碰摩力转子模型,通过分岔图、Poincaré映射投影图、相平面图分别分析了不平衡量、轴承径向间隙、转子与定子之间的摩擦因数、不同润滑油黏度以及轴的阻尼因数对转子运动行为的影响,发现了其丰富的非线性动力学行为,研究结果对于更好地了解转子系统的碰摩故障以及早期预测有重要意义。　　(3)在总结混沌控制方法基础上,构造了距离空间,并用不动点定理分析了它们之间的内在联系,同时构造了小波函数构成的非线性映射和线性压缩映射,成功地对多种类型系统的混沌和超混沌进行了控制;对一类非光滑自激振动系统的混沌控制进行了分析,利用了最大Lyapunov指数图、全局Poincaré映射图、双参数变化控制图、时间响应图和相图,从多种角度用不同的方法对系统实施了有效控制;对一般二维二次映射中的混沌与超混沌提出了一种节约能量并能将系统控制到高倍周期和概周期的方法,它为研究许多现实离散系统模型提供了一种新的方法。