航天器在轨服务已成为航天技术发展的重要趋势之一。利用服务航天器自主执行航天器推进剂补加、部件更换及功能升级、故障航天器的维修、报废航天器的再利用及再制造等服务任务,对于空间资源的可持续开发利用具有重大意义。自主在轨服务过程中,一个核心阶段是服务航天器与目标的近距离相伴飞行,此阶段主要执行对目标的近距离观测及在轨操控。论文以航天器近距离相对运动制导与控制为中心,系统研究了相对运动动力学模型、快速绕飞与相对状态转移的轨迹规划、利用空间环境作用力的运动控制等基础理论问题,并对近距离观测任务和失控翻滚目标抓捕任务过程中涉及到的关键技术开展了研究,旨在为航天器自主在轨服务的工程实现奠定理论与技术基础。首先,对在轨服务近距离相伴飞行的相对运动动力学模型进行了研究,从最基本的运动规律分析,航天器相对运动是由两航天器所受的作用力之差来决定的。基于中心天体引力差和空间环境摄动力差量级大小的分析,提出了临近飞行这一科学概念:航天器近距离相伴飞行,中心天体引力差微弱,仅需通过微小的控制作用便能克服中心天体引力差的影响,实现相对运动在三维空间内的“自由”飞行;同时,当空间环境摄动力差和中心天体引力差量级相当时,相对运动规律的分析需要考虑空间环境摄动的影响,更可利用空间环境摄动辅助相对运动控制。以此为基础,建立了临近飞行动力学模型,同时系统的分析了在轨服务临近飞行控制模型的选取准则。其次,根据在轨服务临近飞行过程中的任务需要,开展了快速绕飞与相对状态转移的轨迹规划研究。通过引入人工引力常数的概念,设计了一种快速绕飞解析制导律,基于该制导律可以使处于任意初始状态的两航天器形成封闭的空间椭圆绕飞构型,并分析了人工引力常数与初始相对状态对绕飞轨迹周期和形状的影响,推导了圆参考轨道下圆构型快速绕飞的燃料消耗。针对相对状态转移的轨迹规划问题,设计了人工势函数制导算法,提出了两种新型的吸引势函数和排斥势函数,可有效确保转移过程中服务航天器与目标的碰撞避免。设计了用于轨迹跟踪的滑模变结构控制律,用以完成空间环境摄动力影响下,服务航天器对规划轨迹的高精度跟踪保持。然后,研究了太阳光压影响下的临近飞行相对运动。当太阳光压差和中心天体引力差量级相当时,太阳光压对临近飞行相对运动具有显著影响。建立了考虑太阳光压的临近飞行动力学模型,当航天器帆板法向指向太阳方向时,求解了圆参考轨道下相对运动的解析解,并与C-W方程的解析解进行对比分析。同时,建立了利用太阳光压辅助推进系统的运动控制策略,并且通过悬停控制详细的对比分析了利用太阳光压辅助的优势,为节约航天器燃料消耗提供了新的技术途径,同时此策略可扩展至其它临近飞行控制任务。最后,针对近距离观测和失控翻滚目标抓捕的抵近机动任务开展了应用研究。基于双目视觉测量,利用设计的自适应滤波器,对非合作航天器的六自由度相对运动状态以及惯量张量比例系数进行了联合识别。构建了地面试验系统,对双目视觉系统进行非合作目标表面特征点连续跟踪,以及基于滤波器进行相对运动状态估计的原理进行了试验验证,得到的结果可为开展在轨操控任务提供信息支撑。同时,针对两类典型复杂构型且姿态翻滚的失效航天器,设计了抵近机动控制策略,将抵近过程分为远距离飞行段和临近飞行段,并分别设计了相应的控制器。针对临近飞行段与目标碰撞避免的任务需求,建立了飞行过程中碰撞避免约束数学模型,基于序列凸优化算法,完成了模型预测控制输入的实时优化求解,使得服务航天器与翻滚目标保持相对稳定的状态,为下一步利用机械臂对目标进行抓捕和操控奠定基础。