深空通信中的组合调制解调技术是通过研究深空信道独特的特点,结合现代高效数字调制解调技术及其它信号处理方式来对深空通信的发送和接收信号进行处理,以达到较好的接收效果。主要研究适合深空信道传输的具有恒定或准恒定包络的高效数字调制方式与直接序列扩频相结合的组合调制解调方式。本文以具有较高功率利用率和频带利用率的恒包络QPSK调制、连续相位GMSK调制为主要原型,将这些适合深空通信的调制方式与直接序列扩频调制相组合,辅以其它的信号处理方式,来增强单一调制的系统性能,进行了系统性能仿真,仿真结果主要是误码率的分析。同时也研究了具有更高频谱利用率的准恒定包络调制方式IJF-OQPSK和FQPSK调制方式。在建立了整个组合调制解调系统结构的基础上,结合实际通信环境,进一步优化系统性能,从理论分析和仿真结果两方面验证该体制的可行性。并对该组合调制解调系统的一些关键技术进行研究和部分实现,为未来深空通信系统设计提供技术支撑。文章最后通过研究MER系统中的高效编码方式,对未来深空通信中的编码调制技术进行了学习和分析。