月球中继卫星星座是指将多颗卫星布置在月球周围的特定轨道上，从而根据特定任务的需求来为月球表面的特定区域提供不间断的跟踪通信与测控定位等服务。月球中继卫星星座可以对月球表面航天员提供导航和定位授时服务，对月球有人或无人探测车提供不间断的通信中继服务，对月球轨道航天器提供测轨和定轨服务等。月球中继卫星星座相对于地球上的地面站有着无可比拟的优势，它是中国以后月球探测与开发和载人登月等重大项目的首要考虑内容。本论文在总结国内外月球探测经验的基础上，结合星座方案中要求的目标项如：覆盖性能、成本、链路性能、容错性能和稳定性能等，把月球中继星座设计的基本原则、月球中继星座设计基本方法以及月球中继星座评估方法体系融合到一起，利用现在最优化理论方法如遗传算法和模拟退火算法等，通过Matlab与STK的协同仿真，研发星座优化设计软件，并实现一体化的星座构型优化设计。论文的主要工作如下：首先，在充分研究已有中继星座模型和基本遗传算法的基础上，建立了星座构型一体化优化模型设计方法，该模型最大限度的扩充星座优化的参数，不仅包含了卫星的基本轨道参数而且还有其他可能的轨道参数。对于月球中继星座，首先根据需求，选出几种满足任务要求的大致星座构型，再根据星座模型对几种星座构型进行轨道参数进行优化，这保证了模型的通用性，并且易于寻找到最佳星座构型。其次，在中继星座模型的基础上，论文给出了改进的混合遗传模拟退火算法方法，并将该算法成功应用于中继卫星星座的优化设计。为复杂的星座设计提供了强有力的多目标设计方法。为了满足不同任务要求，论文给出了通用的基本性能评价准则，包括覆盖性能，成本和链路性能等方面。最后，根据混合算法和星座模型以及评价准则，在月背覆盖中继星座和月球南极覆盖中继星座方面进行了优化设计，并给出了混合算法相比基本遗传算法结果更好的卫星设计结果。最终针对不同的任务需求提供不同的最佳方案设计。