中继卫星系统作为天基骨干网络，为众多的用户飞行器提供了跟踪、测控以及数据中继等服务。中继卫星任务调度是指地面控制中心根据任务的应用需求，选择合适的用户飞行器，确定中继卫星及其有效载荷，科学合理地分配中继卫星系统资源，以满足各异的用户需求。针对目前日益增长的任务需求和有限的中继卫星传输资源之间的矛盾，合理的任务调度策略更是成为中继卫星系统最大化资源利用的保障。当前对于中继卫星系统任务动态调度的研究主要集中在以最大化系统收益为目标的调度算法，而没有太多考虑到系统资源的利用率以及任务的时延保障，导致中继卫星系统的传输资源没有得到充分利用，因此需要在保障最大收益的前提下，研究更加高效的动态调度算法。本文的研究内容如下：　　首先，本文针对不同的任务特点、时变的星间可视时间窗口、不同频段的星间链路资源等复杂约束，给出了中继卫星系统的任务动态调度问题的数学建模，并对中继卫星系统的可用有效资源进行了分析。在理论分析的基础上，结合调度问题中的动态扰动因素，提出了一种基于滚动窗口的混合粒子群调度（HPSORS）算法以实现中继卫星系统基于预先规划的动态调度。该算法通过滚动窗口机制适应任务的动态特性，混合粒子群算法用于计算单位滚动窗口下的任务调度。为了验证所提算法的性能，本文利用 STK软件来模拟真实卫星网络场景，对所提算法和现有调度算法进行了仿真对比，从调度总收益、单位时间收益以及执行时间等方面验证了所提算法的性能优势。　　其次，提出了基于按需调度的网络图模型表征及相应的动态调度算法。面对中继卫星系统向星间组网发展的必然趋势，任务的中继传输将不再仅仅依赖于单个中继卫星独立完成，本文针对多星接力中继传输的场景，基于星间链路的断续连通特性，利用时变图模型对网络中的节点关系进行了表征，然后结合中继卫星节点缓存受限的特点，提出了基于缓存增强的时变图（STVG）模型。利用构建的时变图模型，为实现任务的按需调度以及保障其时延特性，提出了基于DTN网络最短路由的动态调度算法。该算法中每个任务基于路由策略独立地选择中继资源并寻找转发路径，实现了用户飞行器端的动态任务调度，并通过数值仿真验证了所提算法的性能。　　最后，本文构建了中继卫星调度系统的仿真软件平台，给出了平台的总体实现方案，设计并实现了平台的搭建框架以及各功能模块组成。模拟中继卫星系统的运行状态，在多个演示场景中验证了本文所提模型及算法的可行性与有效性。