无论是在通讯卫星、大型空间站等航空航天领域中，还是在船舶、汽车、机械和土木等工程领域中，机械柔性结构都是非常重要的组成部分。随着现代工业的高速发展，各种机械系统变的越来越复杂，机械结构不断向大型化、柔性化和轻质化的方向发展，同时对结构的精度、可靠性和稳定性的要求也越来越高，从而使得机械柔性结构的动力学振动与控制问题的研究显得尤为重要。如果结构的动力学行为和稳定性机理不清楚，控制方法达不到工程应用的要求，则结构的动力学特性就容易发生突变，从而导致灾难性事故的发生，造成对国家财产、人民生命安全和国民经济的重大损失。非线性因素对机械柔性结构的动力学特性有非常重要的影响，对机械柔性结构进行非线性动力学特性的研究能够为结构的设计和控制提供重要的理论指导依据。本文主要利用理论解析方法和数值方法研究了弦．梁耦合系统、L型梁结构和T型梁结构的非线性振动、分叉和混沌动力学特性，并且利用实验方法研究了矩形截面悬臂梁、方形截面悬臂梁和L型梁三种机械柔性结构的周期和混沌振动。 论文的研究内容和创新点有以下几个方面： (1)研究了二自由度和四自由度弦．梁耦合系统平面运动的非线性振动、分叉和混沌动力学特性。首先建立了弦．梁耦合系统平面运动的偏微分运动方程，利用Galerkin方法分别对偏微分方程进行一阶和二阶截断，得到了弦．梁耦合系统的二自由度和四自由度常微分运动方程。然后利用多尺度方法对弦．梁耦合系统进行摄动分析得到四维平均方程和八维平均方程。最后通过数值模拟研究了弦．梁耦合系统平面运动的非线性动力学响应。数值结果发现二自由度和四自由度弦．梁耦合系统都存在复杂的周期运动、倍周期运动、混沌运动以及多脉冲轨线。 (2)首次利用全局摄动方法研究了弦-梁耦合系统的全局分叉和Shilnikov型混沌动力学。在弦-梁耦合系统四维平均方程的基础上，利用规范形理论对平均方程进行简化，得到了在一对双零特征值和一对纯虚特征值情况下弦-梁耦合系统平均方程的规范形。在此基础上，利用Kovacic和Wiggins提出的全局摄动方法研究了弦-梁耦合系统的Shilnikov型单脉冲同宿轨道和混沌动力学，理论分析表明在弦-梁耦合系统中存在着Pitchfork分叉和Shilnikov型单脉冲同宿轨线，从而证明了在弦．梁耦合系统中存在着由Shilnikov型单脉冲同宿轨线导致的Smale马蹄意义下的混沌。数值模拟进一步验证了理论分析的结果。 (3)分别研究了L型梁结构和T型梁结构的非线性振动、分叉和混沌动力学。首先利用Lagrange方程建立了L型梁结构T型梁结构的平面运动方程，得到了二自由度和三自由度非线性系统。然后利用多尺度方法对所得到的多自由度运动方程进行摄动分析，得到了L型梁结构和T型梁结构的直角坐标形式平均方程。最后利用数值方法研究了L型梁结构矛IT型梁结构的非线性振动、分叉和混沌动力学响应，利用平面相图、波形图、三维相图、Poincare截面和功率谱等数值工具，发现在L型梁结构和T型梁结构中均存在复杂的周期运动和混沌运动，并且随着激励幅值的增大，周期运动和混沌运动交替出现。数值结果表明激励幅值是影响L型梁结构和T型梁结构运动形式的重要控制参数。 (4)对矩形截面悬臂梁、方形截面悬臂梁和L型梁三种机械柔性结构的非线性振动问题进行了实验研究。建立了机械柔性梁结构振动实验系统，并测量了三种机械柔性梁结构的振动响应，通过波形图、相图和频谱分析，讨论了激励频率和激励幅值对三种机械柔性梁结构振动形式的影响。在实验研究中，首次在方形截面悬臂梁的非平面非线性振动中发现确实存在着多脉冲混沌跳跃轨线，从而证实了课题组前期对非平面非线性运动悬臂梁中存在着单脉冲和多脉冲混沌跳跃轨线的理论分析结果。实验结果发现在激励幅值和激励频率达到一定条件时，三种柔性梁结构均会产生周期运动和混沌运动。