未来一部分航天器尺寸会越来越大,空间机器人将面临更加苛刻的操作环境。一些大型柔性部件,例如卫星天线和太阳能帆板等,都不可避免的会安装在航天器上。由于大挠性结构的振动,使得本身就具有柔性的空间机器人捕获和维修大挠性航天器成为一项非常具有挑战性的任务。本文以柔性空间机器人捕获及操作大挠性航天器的任务为研究背景,重点研究柔性空间机器人及复合体系统建模、动力学耦合及振动控制等方面的内容,并搭建气浮实验系统进行实验研究。目标捕获前,空间机器人含有柔性附件和柔性关节为典型的刚柔耦合系统;目标捕获后,空间机器人和大挠性目标形成一个两端含有挠性附件中间通过柔性机械臂连接的复合体系统。针对此本文采用递推组集的方式建立了柔性空间机器人和复合体系统的动力学模型。基于C语言开发了动力学计算程序并与Adams软件进行了对比验证。在动力学模型的基础上,分析了柔性空间机器人系统的动力学耦合特性。定义了用于描述柔性附件弹性运动到机械臂末端运动耦合大小的耦合因子。并通过建立关节角加速度与弹性变量加速度之间的关系,得到关节运动到附件弹性运动的耦合矩阵。根据耦合矩阵绘制了关节空间描述的耦合图。所开发的动力学计算程序具有高效高精度的优点,为后续柔性空间机器人系统的规划和控制奠定了基础。耦合因子和耦合图可分别应用于设计空间机器人的构型和降低柔性附件的振动。空间机器人进行点到点运动时会激发柔性附件的弹性振动,在柔性空间机器人动力学耦合研究的基础上,提出了一种基于耦合图的减振轨迹规划方法。分别讨论了起始点和终止点位于相同和不同最小耦合曲线两种情况下的关节轨迹规划方法。基于耦合图的减振轨迹规划方法具有直观可行,简单有效的优点。为了确定柔性空间机器人点到点运动时产生振动能量最小或残余振动最小的最优运动轨迹,首先将柔性空间机器人最优运动轨迹确定问题采用Bolza型最优控制进行数学描述,然后利用Radau伪谱法求解柔性空间机器人运动轨迹的最优解。Radau伪谱法确定最优轨迹的同时也验证了基于耦合图的减振轨迹规划方法的正确性。当柔性空间机器人自主抓捕目标航天器时,航天器的运动状态实时发生变化且系统存在复杂的动力学耦合现象,使得无法采用基于离线规划或开环的方式进行柔性附件的振动控制。针对此问题提出了一种同时实现目标跟踪及柔性附件振动抑制的混合控制方法。首先建立了柔性空间机器人目标自主捕获的闭环控制系统并给出了相对位姿测量和自主捕获轨迹规划的方法。然后设计了一种同时满足关节轨迹跟踪和附件振动抑制的混合控制律,并利用李雅普诺夫第二类方法证明了控制系统的稳定性。该方法可以在没有专门柔性附件振动抑制作动器的情况下,实现柔性附件在线振动控制。而且振动信号的选择灵活多样,具有较好的应用价值。当大挠性目标捕获后,安装在目标航天器上的大挠性附件的结构参数未知且其振动无法直接测量。本文利用振动波传递的特性,提出了一种基于振动波叠加的振动抑制复合控制方法。首先阐述了振动波控制的原理,将振动波分为传递波和返回波,给出了返回波的两种计算方法。然后针对复合体系统设计了一种结合PD控制和振动波控制的复合控制方法。并利用李雅普诺夫第二类方法证明了控制系统的稳定性。该方法将对大挠性附件的振动控制完全转移到机械臂关节处实现,具有重要的实际应用价值。根据空间微重力特性和动力学及振动控制实验的需求,本文建立了一套柔性空间机器人地面气浮实验系统。实验系统充分考虑了空间微重力环境和系统柔性特性,可以保证在平面内很好的模拟空间机器人和复合体系统的动力学特性。基于此实验系统,首先开展了复合体系统的动力学特性研究。研究了关节规划方法和规划时间对复合体系统振动的影响。然后采用振动波叠加的复合控制方法对复合体系统振动抑制进行了实验验证。