在复杂空间任务的牵引下,单个航天器的体积、质量、功能和结构等日趋复杂化。为了减轻自身重量、节约发射成本,航天器一般需要采用诸如太阳帆板、运动天线、大尺寸桁架等轻质挠性材料作为其功能附件或支撑结构。对于这样一类振动频率低且密集的大挠性航天器,如何设计挠性结构振动抑制及航天器姿态控制系统,进而实现高精度、高稳定度的载荷指向控制,成为目前亟需解决的问题。因此,本文针对大挠性航天器的振动抑制及姿态控制问题,开展如下几个方面的研究工作:针对大挠性航天器数学建模问题,采用有限元法及拉格朗日法,建立航天器挠性部件的振动控制及测量方程;采用四元数描述航天器的姿态运动,并基于牛顿-欧拉法,建立大挠性航天器的姿态动力学方程。针对航天器挠性振动抑制问题,开展大挠性航天器振动控制系统结构化设计,重点研究振动作动器布局、系统全局模态坐标提取、振动控制器设计等问题,构建完整的大挠性航天器振动控制回路。针对作动器优化布局问题,结合实际工程需求,提出考虑系统状态可控度及作动器布线的复合优化指标,并基于该指标,利用遗传算法优化作动器安装位置。针对模态信息提取问题,基于小波分析技术设计振动测量信号的分离和重构方案,在一定程度上解决了振动系统模态坐标的观测溢出问题。针对振动控制器设计问题,考虑环境干扰及系统参数不确定性,基于独立模态空间控制思想设计了PD+SMC振动控制器,消除了振动系统参数地面标定或在轨辨识误差对控制精度的影响。针对大挠性航天器姿态控制问题,将处理终端滑模奇异问题的饱和函数法与实际有限时间稳定概念相结合,设计了一种自适应有限时间姿态控制器。进一步地,将扩展有限时间定理与Lyapunov有界性相结合,提出了扩展实际有限时间定理,放宽了闭环系统稳定性分析的条件。在此基础上,考虑执行机构输出饱和,设计了有限时间抗抗饱和补偿器及抗饱和姿态控制器,在保证系统状态有限时间收敛的同时,抵消了饱和非线性的影响。最后,考虑系统输出受限,设计了基于预设性能的有限时间姿态控制器,通过构造具有势函数形式的预设性能控制项,对系统状态变化范围进行了约束,提升了姿态控制系统的安全性和可靠性。