随着空间技术的飞速发展，航天器编队飞行已经成为航天领域的研究热点，受到越来越多航天科研机构的关注。与传统的单个航天器相比，编队飞行航天器具有成本低、灵活性强和可靠性高等优点，更加适用于复杂的空间任务。对于航天器编队飞行任务，对航天器进行有效的轨道和姿态控制是成败的关键。本学位论文着重围绕双星编队的相对轨道控制和多航天器编队的协同控制问题进行深入的研究，主要包括以下几个方面的工作：
　　针对编队航天器的多约束脉冲控制问题，提出一种基于状态观测器的脉冲协方差控制器。考虑模型参数不确定性和外部扰动，分别针对主航天器轨道为圆和椭圆的情况，建立不确定线性系统模型；考虑主航天器和从航天器的相对位置和速度不全可测的情况，设计全阶状态观测器；基于全状态观测器，考虑推力器的幅值受限、极点配置和稳态方差等约束，研究多约束条件下的航天器脉冲协方差控制器设计方法；通过数值仿真验证上述控制算法的有效性。
　　针对编队航天器的高精度跟踪控制问题，提出一种自适应滑模变结构容错控制器。考虑推力器故障情况，建立故障模型，采用自适应算法对执行机构故障信息和外部扰动进行估计；根据自适应算法的估计值，给出自适应滑模容错控制器的设计方法，该控制器不需要获取外部扰动和推力器故障的精确信息，通过采用Lyapunov方法证明尽管存在外部扰动和推力器故障闭环系统仍渐近稳定；通过数值仿真验证上述控制算法的可行性。
　　针对编队航天器相对轨道协同控制问题，提出基于无向通信拓扑结构的分布式有限时间协同控制器。考虑编队航天器通信拓扑为无向图且无通信延时存在的情况，提出快速终端滑模协同控制器；为了提高控制精度，采用RBF神经网络来对系统不确定部分和外部扰动进行逼近，同时引入开关函数来保证RBF神经网络输出有界，设计基于RBF神经网络的分布式有限时间协同控制器；进一步，提出了考虑通信延时存在的分布式有限时间协同控制器；通过数值仿真验证上述两种控制策略的有效性。
　　针对编队航天器姿轨耦合协同控制问题，提出了基于有向通信拓扑结构的分布式固定时间协同控制器。在有向通信拓扑下，考虑系统外部扰动和系统模型的不确定部分上界己知情况，通过设计多航天器固定时间滑模函数，给出编队飞行航天器姿轨耦合固定时间协同控制器的设计方法；进一步，对于系统外部干扰和系统模型的不确定部分上界未知的情况下，设计了编队飞行航天器姿轨耦合自适应固定时间协同控制器；通过数值仿真验证了上述两种控制策略可确保编队航天器的相对位置和相对姿态误差在固定时间内达到良好的收敛精度。