作为导航系统的基础要求之一，导航信号体制的设计直接决定了导航系统的性能优劣，而调制方式和复用技术是信号体制的关键组成部分。同时，随着全球卫星导航系统（GNSS）计划的推进，多元化GNSS已经成为发展趋势，但国际电联（ITU）分配给卫星导航系统的频率资源有限，导致各系统对频率资源的争夺越来越激烈，新型导航信号调制方式和复用技术是解决这个问题的有效途径。为了保持在卫星导航领域的领先地位和对有限频率资源的高效利用率，美国早已着手GPS系统的升级工作，信号体制的改革便是其中重要的一项。而作为新兴的导航系统，欧洲的Galileo系统和我国的北斗系统为了占有一席之地，在建设伊始便着眼于性能优良的导航信号体制的设计。本文研究工作主要分为两部分：首先对导航信号调制性能进行分析，对功率谱密度、自相关函数、码跟踪精度和多径误差从理论上建模，给出最终数学表达式；然后针对两种导航信号复用方式——Interplex复用和CASM复用方式——进行研究，提出Interplex复用的优化结构，推导出复用效率和载噪比损耗表达式。功率谱密度和自相关函数分析同传统的通信系统分析方法一样，利用傅利叶变换和维纳—辛钦定理进行计算。码跟踪精度采用美国人John Betz提出的分析模型，对加性高斯白噪声下的相干EML环路跟踪方式详细分析，给出码跟踪精度与码环带宽、信道传输函数、接收机带宽、信号功率谱密度、噪声功率谱密度等参数的关系式。多径误差分析建模在导航信号为窄带信号模型的基础上，给出多径误差与信号自相关函数、多径信号衰减系数、多径时延、相关器间隔关系表达式。仿真生成BOC、MBOC和AltBOC信号并分析其功率谱密度、自相关函数、码跟踪性能和多径误差，比较不同信号的性能优缺点以及在导航系统中的适用情况。在美国人S.Butman和UZI Timor提出的Interplex复用技术基础上给出Interplex复用技术的优化结构，推导出复用效率和载噪比损耗同信号发射功率比、功率谱密度、信号载噪比等参数关系式；以GalileoE1和北斗B1信道为基础，分析优化的三路Interplex复用信号性能。