可靠性和有效性是数字通信系统的两大性能指标。然而,在数字通信系统中,二者往往是一对矛盾,在频带资源日益紧张的当代,如何在保证一定通信可靠性的前提下尽可能提高有效性是通信领域永恒的主题。在光通信系统中,接收机在进行相位恢复时必须设法克服相位模糊问题,为此,常常采用差分调制(DQPSK)。然而,差分调制会导致信号误码率加倍,产生额外的信噪比代价。本文分析了迭代差分解调译码方案,即将LDPC编码和差分调制作为整体进行优化。仿真结果表明,该方案既可以克服相位模糊又能补偿差分代价,增强了系统的可靠性。同时,本文分析了适合该方案的LDPC码的度优化算法和满足任意度分布的校验矩阵的构造方法。在无线通信系统中,无线信道的衰落特性严重影响通信传输的有效性与可靠性。分集技术是一种典型的抗衰落技术,本文研究了联合编码调制分集技术,对该技术的两个关键因素：多维旋转调制和分量交织器的设计进行了重点研究,使得该技术更好地将信道编码增益与时间、频率、空间和调制分集相结合,使系统达到很高的频谱效率,有效地抵抗衰落信道下的各种干扰,增强了整个通信系统的有效性与可靠性。对于联合编码调制分集技术的应用,本文研究了其在MIMO系统和无线局域网802.11ac系统下的应用。仿真结果表明,相比传统的编码调制技术,该技术有约2-7dB的增益,具有广泛的应用前景。