通信技术是人类社会不断发展和进步的重要推动力。人们对于通信的需求也越来越广泛。特别是无线通信和移动通信的迅猛发展，更是为人们的沟通和信息的传递提供了极大的便捷。然而，日益庞大的传输内容和复杂脆弱的传输环境，都是无线及移动通信技术的发展所必须时刻面对和重点克服的困难。只有高性能的通信系统，才能提供强大的通信服务。　　所有通信的研究，都试图整体或者局部地改善通信系统的性能。早期及大部分的研究，都遵循香农提出的“分离定理”，采用分离的编译码结构，通过对信源、信道及调制等各部分进行独立的研究和设计，以期实现各自最优下的整体最优。这些研究取得了一定的成果，但也面临着明显的问题，一个是“分离定理”成立的数学假定与实际情况完全脱离，二是通信系统的各部分实际上是矛盾而又统一的。　　随着人们对于通信研究的不断深入，越来越多的学者不再严格地受限于“分离定理”的约束，而是将通信系统的各部分进行整体或者局部的联合，相互取长补短，优化设计，以期整体地提升通信传输的性能。　　联合通信系统的研究，主要集中于两大类，一类是信源压缩编码和信道纠错编码的联合设计，一类是信道编码和调制结合的编码调制方法。前者主要解决传输有效性和可靠性之间的矛盾，寻求联合起来的整体高效;后者主要解决节省功率和带宽资源受限下的有效可靠传输的问题。两类方法中的若干问题都是很长时间以来研究的热点，如可变长码和信道编码的联合编译码问题，BICM-ID技术等。　　可变长TURBO码是一种新型的联合信源信道编译码方法，与分离系统相比具有优异的性能。针对其译码复杂度随信源符号增加而指数增长的问题，本论文研究了基于空间策略网格的低复杂度快速编译码方法。与此同时，针对信道与调制联合设计中的热点技术BICM-ID的译码复杂度高的问题，本研究试图从信道编码、调制与映射入手，提出适合于BICM-ID系统高阶调制的低复杂度映射优化算法，提升系统整体传输性能。　　本论文的研究在国家自然科学基金的支持下，取得了一定的成果，主要创新点包括以下三个方面:　　1、研究了可变长码和TURBO码的联合编译码系统，提出了一种基于空间策略网格的低复杂度联合信源信道编译码方案，相比平面网格图，通过增加符号权重索引并优化赋值，有效地剔除译码的竞争路径，降低了符号级可变长后验概率(VLS-APP)算法的译码复杂度。仿真实验证明了该方法相比于分离系统和基于平面网格图译码的可变长TURBO方法，可以提升系统整体的传输性能。　　2、针对传统的编码调制中星座映射算法计算复杂度高的问题，提出了一种简单直观的适用BICM-ID系统高阶调制的星座映射优化方法。方法利用EXIT图分析迭代译码时解调互信息转移函数和信道译码互信息转移函数之间的关系，遍历所有8PSK的映射方案，找到逼近信道容量的最佳星座映射。EXIT图分析和仿真实验表明，该优化算法可以有效地提升BICM-ID系统的迭代译码性能。　　3、研究了BICM-ID系统结合非规则调制时的星座映射优化问题。提出基于两个8PSK子调制器组成的非规则调制的星座映射优化算法。算法推导了非规则调制总体解调互信息函数与子调制互信息转移函数之间的关系，结合欧式距离谱特性减少搜索范围，找到逼近信道容量的最优非规则调制映射方案。EXIT分析和仿真实验表明，该算法优化可以进一步提升BICM-ID系统的迭代译码性能。　　4、基于实际通信应用对译码低复杂度和短时延的要求，提出了一种适合于BICM-ID系统非规则调制的低复杂度映射优化算法。算法首先对子映射的选取进行优化，参考非规则码的研究，结合最陡梯度算法，在迭代次数固定的情况下对非规则调制的混合比例系数进行优化。仿真实验表明，在少迭代的情况下，经过算法优化后的BICM-ID系统与其他经典方案相比具有更好的迭代译码性能。