随着空间技术的不断发展，失效卫星等非合作目标航天器的在轨巡视技术已成为当前的研究热点。由于失效卫星不能实时有效地提供自身位姿信息，因此利用追踪星对失效卫星进行近距离巡视时，其追踪过程的复杂性和不可预见性都对导航系统的自主性、可靠性和精度提出了极高的要求；与此同时，为了保证巡视过程的安全与可靠，设计出一套便于巡视的相对位置与相对姿态控制方案和算法是十分必要的。本文以失效卫星近距离巡视为研究背景，为了保证巡视接近过程中追踪星绝对位置和姿态测量的精确有效，考虑到单一的导航系统无法同时满足高精度、高可靠性以及强自主性的要求，本文研究了基于惯性/卫星/星敏感器实现的追踪星多传感器高精度自主导航技术；设计了优化的多传感器组合导航模型和测量模型，考虑到量测系统的冗余性，采用联邦滤波组合导航算法实现了对追踪星近距离巡视的绝对位姿确定。本文在分析了失效卫星特性及运动模式的基础上，考虑到近距离巡视接近逼近段，失效卫星本身不能再被当作点质量模型处理，为此，研究了基于局部区域的兴趣点测量方法。结合结构模型已知的一类失效卫星，通过立体视觉系统研究了基于失效卫星表面局部区域中兴趣点的相对位置观测模型。此外，考虑到失效卫星本身位置与姿态信息也不可预知，提出了一种基于失效卫星相对位姿及追踪星本体位姿联合估计的扩展卡尔曼滤波方法，能有效提高对失效卫星的位置和姿态测量精度。结合失效卫星近距离巡视中对控制系统高精度、高敏捷性的需求，建立了基于失效卫星表面局部兴趣区域的相对位姿动力学模型及巡视控制坐标系。在此基础上，设计了巡视参考轨迹控制方法，并设计了基于线轨迹的PD控制算法与基于角轨迹的跟踪控制算法；考虑到近距离巡视中位姿相互耦合，进一步结合C-W方程及姿态运动学与动力学设计了姿轨耦合下的相对状态控制方法，从而为失效卫星的在轨巡视提供了理论参考。为有效验证所提出的算法的性能，本文主要针对追踪星巡视中的自主导航算法研制了相应的算法性能验证仿真平台，并基于嵌入式计算机PC104的硬件架构完成了追踪星巡视过程中的自主导航算法半物理仿真验证系统，有效验证了自主导航算法的性能。