随着利用空间与控制空间任务的发展需求，接近空间目标航天器并对其进行临近操作已经成为航天领域研究的热点，被广泛应于到编队飞行、在轨服务、空间攻防等许多空间任务中。如何有效控制追踪航天器接近目标并进行相应的机动成为关系到上述空间任务成败的关键，尤其是快速而有效的接近非合作目标成为其中的难点之一。针对上述问题，本文深入研究了接近空间目标的追踪航天器相对轨道与姿态控制方法，主要包括以下几个方面的工作：将接近空间目标的任务划分为：近程接近与绕飞段、最后逼近段以及姿态调整段三部分。在近程接近阶段，采用开环脉冲控制，提出了接近目标的相对轨道多脉冲控制方法，设计了不同形式的接近轨道，使追踪航天器可从任意方向、任意轨道平面接近目标；并提出了一种基于安全性要求的脉冲次数选择方法。在绕飞阶段，分析了形成自然绕飞的条件，并提出了一种双边椭圆绕飞的脉冲控制算法，使追踪航天器能够对目标快速绕飞，以满足快速监测以及某些特殊任务的要求。考虑到目标航天器的非合作特性以及空间任务快速性要求，进一步提出了闭环反馈控制方法实现接近目标逼近段的相对轨道控制。针对目标航天器没有逃逸机动与存在逃逸机动的情况下，基于Lyapunov方法分别设计了反馈控制器实现了接近机动；其次，假设无法精确获得目标的部分轨道信息，设计了自适应控制器来实现相对轨道控制；并进一步考虑了对外界干扰的补偿问题，提高了闭环系统的鲁棒性。基于有限时间控制理论，设计了接近目标的相对轨道有限时间控制器；并进一步设计了有限时间观测器来补偿目标的逃逸机动，确保在目标逃逸的情况下，追踪航天器仍能有效的完成接近任务。当追踪航天器完成相对轨道的接近任务后，需做姿态调整以完成后续任务，因此提出了航天器姿态鲁棒控制方法。首先把追踪航天器看作刚体，设计了基于相对误差模型的滑模变结构控制器，实现了对目标的姿态跟踪控制；为进一步提高姿态控制的精度，确保航天器平台的稳定，设计了一类广义干扰观测器以补偿外界干扰与航天器模型不确定性，并分析了观测器的收敛性；当考虑航天器挠性附件时，在存在有界干扰与不确定性的情况下，基于误差四元数设计了一类仅需要姿态角与角速度信息的滑模变结构控制器，实现对目标姿态的跟踪控制。采用Lyapunov方法分析了挠性附件模态变量的有界性。为实现快速姿态调整，基于有限时间控制理论提出了追踪航天器的姿态控制方法。首先把追踪航天器看作刚体，将姿态运动转化成拉格朗日方程形式，设计了有限时间控制器实现姿态机动，并分析了系统的全局快速收敛特性；进一步设计了基于四元数的有限时间控制器来完成对目标的姿态跟踪，分析了姿态控制系统对外界干扰以及航天器转动惯量不确定部分的鲁棒性，并提出一种改进的饱和函数以实现全局有限时间到达。当考虑空间环境的复杂性而不能获知干扰以及不确定部分的信息时，提出了一种自适应有限时间控制器。把追踪航天器看作挠性体，设计了改进的非奇异有限时间控制器实现姿态机动控制。最后，对上述控制器进行了数值仿真以验证理论分析的正确性。