伴随位置服务(LBS)的快速发展及用户对性能需求的提升,全球卫星导航系统(GNSS)不断向前演进,信号数量及占用带宽逐步增加。目前,已分配给GNSS的L频段频率资源基本被四大GNSS耗尽,新的信号逐渐向S频段、C频段延伸。然而,这些新近分配给导航业务的频带带宽比L频段更窄、传播损耗比L频段更大、带外辐射的约束更苛刻,这些因素都不利于改善导航信号性能。因此,提升频谱效率是导航信号设计必须解决的关键问题。本文从调制方式和伪码设计两个方面研究高谱效导航信号设计的方法。其中,调制方式设计的主要目标是降低带外辐射、提升带内性能,伪码设计的主要目标是减小系统内多址干扰带来的性能降级,它们相结合共同提升系统在实际场景中的频谱效率。调制方式设计方面,综合新频段对导航信号的带外辐射抑制需求及带限信号的性能评价模型,提出了一种高谱效恒包络调制方法,通过I、Q支路相对时延及码片波形联合优化,实现在不显著下降带内信号性能的前提下将带外辐射下降7.6-35.2dB,频谱效率提升7.3-34.3dB。伪码设计方面,以平衡性、奇/偶相关性、线性相关品质因数、谱线特性等关键指标为评价准则,设计了四步伪码优选和配对算法,并应用于北斗B1C伪码序列设计。结果表明,基于该方法优选的伪码性能略优于GPSL1C。在此基础上,提出一种以混沌序列为基础序列的导航信号伪码设计方法,并基于该方法获得了性能优于GPS L1C的码序列集合。与基于weil序列的GPS L1C码和北斗B1C码不同,基于混沌序列优化的伪随机码不仅可以获得良好的奇偶相关性能,还具有初值空间大、可以通过迭代方式产生等特点,便于码族扩展并降低对存储空间的需求。本文的研究工作,可为高谱效的导航信号体制设计提供有益的参考。