跟踪与数据中继卫星系统能够为中、低轨道的航天器或卫星提供连续跟踪、数据中继和轨道测控等服务，使航天测控领域发生了革命性变化，并成为当前研究的热点。其中，中继卫星自主定轨非常重要，因为其不仅影响着整个中继卫星系统的性能，又能减少对高成本的地面站的依赖，具有重要的实际意义。本文主要利用X射线脉冲星、GNSS对中继卫星进行自主定轨，主要研究内容如下:　　首先，研究了中继卫星基础理论。介绍了中继卫星系统的基本组成，分析了文中用到的卫星导航时空系统及其转换关系，以达到时空基准的统一。重点研究了中继卫星的轨道动力学方程和轨道摄动力影响，建立了高精度卫星轨道动力学模型，为本文卫星自主定轨方法的研究提供了理论基础。　　其次，提出了基于X射线脉冲星的中继卫星自主定轨方法。研究了脉冲星导航原理，并与卫星轨道动力学模型结合起来，设计卫星自主定轨方案。通过对脉冲星的可见性和几何精度因子进行分析，验证了利用X射线脉冲星对中继卫星定轨的可行性。在此基础上，建立脉冲星导航数学模型，分析了系统可观测性，并通过EKF滤波算法仿真验证了该导航方法的有效性。　　再次，提出了基于X射线脉冲星/GNSS容错组合导航的中继卫星自主定轨方法。分析不同接收机灵敏度下GNSS的可见性和几何精度因子，并研究GNSS定轨方法的可行性。为进一步提高中继卫星的定轨精度和系统可靠性，设计了X射线脉冲星/GNSS容错组合导航联邦滤波方案，并在不同条件下进行了仿真实验分析，结果表明该方法可以提供更高的定轨精度，且增强了系统的可靠性。　　最后，利用卫星仿真工具包(STK)、MATLAB和VC++软件开发了中继卫星自主定轨仿真系统，并通过仿真实例运行，更直观的说明仿真系统的功能与组成。