随着国民经济的需要,柔性结构的尺寸日益增大、结构重量越来越轻。诸如,在航天领域,为了得到可持续的能源,现代航天器往往安装有大型太阳翼。太阳翼的弹性振动不可避免地与航天器主体平台的运动相互耦合。这种耦合效应随着太阳翼尺寸的增大显著增强。此时,单个太阳翼的模态(假设模态)并不能准确反映其在系统中的弹性振动。这导致采用假设模态离散得到的动力学模型,在准确性上可能会存在一定的不足。因此,发展能获取反映系统真实弹性振动的全局模态的解析方法,将其应用在组合柔性结构的动力学建模,并此基础上深入开展其振动控制和非线性动态响应的研究,具有一定的理论意义和工程价值。本文以复杂柔性结构为研究对象,提出了获取系统全局模态的一般性解析方法,将其应用在空间组合梁的动力学建模,得到了系统动力学模型。以此为基础,本文从固有特性、动力学响应以及振动控制等方面进行了相关研究。主要研究内容如下:针对复杂柔性结构,提出了能获取系统全局模态的一般性解析方法。基于浮动坐标系位形描述方式的不同,分别在笛卡尔坐标和拉格朗日坐标下,给出基于全局模态建立系统模态方程的策略和步骤。在笛卡尔坐标下,采用牛顿–欧拉法或哈密尔顿原理建立系统的运动方程;在拉格朗日坐标系下,采用哈密尔顿原理建立系统的运动方程。通过描述变形体自身变形的偏微分方程、刚体运动微分方程以及连接界面力和位移的匹配条件和边界条件,利用分离变量法给出统一形式的频率方程,据此获取系统的固有频率和反映结构真实弹性振动的全局模态。最后,通过全局模态离散得到系统的动力学模型。针对柔性关节柔性机械臂,采用拉格朗日坐标的运动描述方法,建立基于全局模态的系统动力学模型,并开展动力学与控制研究。首先,利用哈密顿原理推导柔性机械臂的刚体运动的常微分方程和柔性臂杆弹性振动的偏微分方程,使用边界条件联立求解系统的常微分方程和偏微分方程,得到系统的固有频率和全局模态,并且证明了系统全局模态的正交性。然后,通过全局模态离散得到系统的动力学模型。随后,从固有特性和动力学响应等方面对比研究了柔性机械臂的全局模态模型和假设模态模型,验证了全局模态模型的优越性。最后,基于该系统的全局模态模型,采用最优控制方法设计柔性机械臂轨迹跟踪-结构振动协同控制器,并对其进行了主动跟踪控制。针对L型梁结构和铰链连接多梁结构,采用笛卡尔坐标的运动描述方法,建立了系统的动力学方程。利用系统的边界条件和匹配条件,求解了系统的全局模态,并对全局模态进行了正交性证明。在此基础上,推导出了系统的离散动力学模型。通过与有限元模型进行对比,验证了全局模态模型的有效性和正确性。最后,对铰链连接的多梁结构进行了数值分析,讨论了铰链的非线性刚度、阻尼和摩擦力矩对系统动力学响应的影响。针对具有铰链连接的太阳翼的柔性航天器,采用笛卡尔坐标的运动描述方法,建立了系统动力学方程。利用系统的边界条件和匹配条件,求解了柔性航天器的固有频率和全局模态,并证明了系统全局模态的正交性。考虑铰链的非线性刚度,阻尼和摩擦力矩,建立了系统的非线性动力学离散模型。通过与有限元模型进行频率对比,验证了全局模态模型的有效性和正确性。在随后的系统固有特性的分析中,讨论了柔性太阳翼弹性振动对柔性航天器中心刚体位置和姿态的影响。最后,分析了系统的动力学响应,研究了铰链参数对柔性航天器轨道机动和姿态调整引起的系统动力学响应的影响。