近年来,随着数字通信技术的高速发展,人们不断提高对数字通信系统的要求,理论上,我们可以通过扩展频带宽度的方式提高信息传输速率,但会导致频谱资源变得越发紧张,如何在有限带宽内进行高效的数据传输是通信领域的一大难题。因此,我们需要综合考虑影响通信传输中的各种因素,提高传输的可靠性和有效性,经过多年的探索研究,网格编码调制(TCM)逐渐发展起来。TCM是将调制和编码联合起来进行整体设计,以符号序列间的欧氏距离为整体设计的度量,使得符号序列之间自由欧氏距离最大。随着TCM技术的快速发展,逐渐将各种编码与调制有机结合,在保持传输功率和带宽不变的条件下,保证信号空间的最优分集,增大序列间的自由距离获得编码增益,提高数字传输系统的可靠性。连续相位调制(CPM)是一种高效率的调制技术,具有恒定包络和连续相位的特点,与其他调制技术相比,可以进一步权衡功率和带宽的关系,提高系统的可靠性。因此本文介绍了CPM信号的一般形式和特性,对CPM倾斜相位表示方法进行了分析,在此基础上实现与TCM的有效结合,得到TCM-CPM系统,为有限带宽内进行高效的数据传输提供了理论基础。在常规解调基础上,本文对TCM-CPM检测端的低复杂度解调算法进行了分析研究。在相干解调中,我们采用基于相位距离路径排除算法,通过在进行相关运算之前先将明显与接收信号不相似的可能信号筛选掉,仿真表明其性能相对于常规相干解调算法有较小的损失,但减少了接收端相关运算量。非相干解调中,我们采用结合判决反馈的简化状态非相干序列检测算法,通过状态合并可以简化状态,降低译码状态数目,从而使解调复杂度降低。本文还对TCM-CPM旋转不变系统做了介绍,考虑CPM相位连续的特殊性,对其进行了分析研究,确保相位存在模糊的通信系统可以正常工作。由于跳频系统中相位同步复杂度高,所以在CPM数据辅助相位同步的基础上,对TCM-CPM系统做了研究与分析,并通过计算机仿真验证了算法的性能。