深空探测是继卫星应用技术和载人航天技术之后的又一个航天技术发展领域。随着全球各个国家和地区在航天事业上的发展和竞争,深空探测已成为现在以及未来研究的热点之一。为了保证深空探测活动的顺利进行,确保航天器之间、航天器与地面站以及空间站之间的正常通信显得至关重要。目前PSK、PAM以及QAM等线性调制方式仍然是深空通信研究的主流,伴随着现阶段深空探测的深入发展以及探测任务的增多,线性调制方式逐渐无法满足深空通信中信道非线性、频谱资源受限以及数据吞吐量大的要求。连续相位调制（Continuous Phase Modulation,CPM）作为一种恒包络且频谱高效的调制方式,可以针对性地解决深空通信中现有挑战;此外,中继通信能够提供高效的数据吞吐量,也成为深空通信中的一个研究方向。首先,论文研究了中继通信中的中继端CPM波形编码问题。由于CPM波形固有的相位记忆性,无法独立地在单个时间区间内完成面向符号的编码。为了解决这一问题,提出一种面向相位的编码方案,该方案通过将CPM波形编码转换为相位编码,保证了信号检测性能的同时简化了编码过程,降低了编码复杂度。其次,论文研究了CPM信号的一个子类,即PR-CPM信号的中继端检测问题。由于深空通信信道为加性高斯白噪声信道,在此条件下PR-CPM信号的最优检测方法是维特比译码,但随着PR-CPM响应长度的增加,最优检测方法复杂度较高。针对这一问题,提出了一种低复杂度的非相干多符号检测算法。该算法首先对PR-CPM信号进行线性分解,然后再进行信号检测,能够保证有效地完成信号检测的同时降低检测复杂度。最后,论文研究了PR-CPM信号非相干多符号检测算法的FPGA实现,从信号调制生成、信号匹配滤波以及信号延时加权三个方面,完成了算法部分功能的仿真工作,并验证了算法相应模块的有效性。