在轨服务为航天器在轨运行与任务执行提供了新的理念与技术途径,可以有效地提高复杂空间环境中航天器的在轨时间、运行稳定性与执行任务的性能,具有广阔的发展前景,目前已成为重要的航天技术之一。高精度、低成本、快速地完成对空间目标的远距离交会与近距离接近是在轨服务任务得以实施的前提和先决条件。本文针对航天器远距离接近的不同推力轨迹优化以及考虑输入受限的近距离安全接近控制进行了深入研究,主要内容如下:首先,研究了脉冲推力交会轨迹的多目标优化设计。基于Lambert飞行时间定理对time-open双脉冲交会和time-open三脉冲交会过程进行了分析研究并给出了一种通用的轨道机动策略求解方法,同时针对time-open双脉冲与三脉冲交会的燃料与时间综合最优问题进行了详细的分析。为了设计脉冲推力多目标最优机动策略,提出了具有更好寻优能力的改进的NSGA-II算法,并利用该多目标优化算法对考虑多约束的燃料与时间综合最优的脉冲交会问题进行了处理。仿真验证表明提出的改进NSGA-II算法具有更好的求解能力,且能够有效地处理不同情况的燃料时间综合最优的脉冲交会轨迹优化设计问题并给出相应的机动策略。其次,研究了基于轨迹成型法的航天器连续推力轨迹优化设计。针对连续推力多圈接近问题,以初始轨道面为参考平面,设计了时间自由和固定两种情况的正切连续推力的轨迹形状,并利用初始与终端边界条件对未知系数进行求解。将设计的轨迹逼近函数的求解结果作为最优问题的次优解估计协态变量初值,并进一步利用最优控制理论完成了连续推力的轨迹最优设计。仿真验证表明新的轨迹成型法适用于轨道倾角较大、多转移圈数的连续推力轨迹优化的初始设计,且具有较小的推力加速度与较少的燃料消耗,结合最优控制理论可有效的完成燃料最优的连续推力轨迹优化设计并给出相应的最优机动策略。再次,研究了同时考虑外部扰动、输入受限、安全约束的近距离接近相对位置控制问题。基于航天器近距离接近相对位置控制模型与球形安全约束避碰函数,利用反步法、二阶跟踪微分器以及辅助系统,分别针对扰动上界已知和未知的情况,提出了两种基于跟踪微分器的安全接近抗饱和相对位置动态面控制策略。进一步考虑系统的有限时间稳定性,基于反步法、指令滤波器、补偿信号以及辅助系统,分别针对扰动上界已知和未知的情况,提出了两种基于指令滤波器的安全接近有限时间抗饱和相对位置动态面控制策略。理论证明和仿真分析表明追踪航天器在输入受限的情况下利用所设计控制器能够以较高精度完成近距离安全接近任务。最后,研究了同时考虑外部扰动、输入受限、安全约束、有限时间收敛的近距离接近姿态轨道耦合控制问题。基于航天器近距离接近姿轨耦合控制模型,提出了新的类锥形安全约束避碰函数,同时利用安全约束避碰函数、快速终端滑模以及辅助系统,分别针对扰动上界已知和未知的情况,提出了两种基于快速终端滑模的安全接近有限时间抗饱和姿轨耦合控制策略。为了放宽对初始位置的限制,进一步设计了连续可导的安全约束避碰函数,并提出了收敛速度更快的改进的快速非奇异终端滑模面,同时结合辅助系统,分别针对扰动上界已知和未知的情况,提出了两种基于改进的快速终端滑模的安全接近有限时间抗饱和姿轨耦合控制策略。理论证明和仿真分析表明追踪航天器在输入受限的情况下利用所设计控制器能够以较高精度完成近距离安全接近任务,不仅能满足相对位置要求,同时能满足姿态要求。