经典的无线通信系统是根据香农分离定理进行设计的，由信源编码、信道编码与调制三个独立环节组成。信源编码的目的是压缩信息的冗余，提高数据传输效率;信道编码的目的是通过增加信息冗余的方法，提高数据抗干扰和差错控制的能力，保证信息的可靠性传输;调制的目的是通过信号频率搬移使传输信号与信道相匹配的方法，在有限的带宽和功率约束条件之下，有效地提高带宽效率。通过上述信源编码、信道编码与调制过程，可以对信息进行有效传输。　　实际通信系统的时延和复杂度受到了严格限制，根据香农分离定理设计的分离系统不能达到性能最优。近年来，联合编译码技术成为学术界的热点研究问题，包括对信源、信道编译码联合优化设计的联合信源信道编译码方法，以及将信道编码与调制相结合的编码调制方法。但是，联合信源信道编译码方法多采用调制效率较低的二进制调制方法，且调制模块相对独立，没有充分利用信源的先验信息和信道状态信息进行优化。另一方面，编码调制方法虽然采用高阶调制的方法，但星座映射的优化算法的复杂度较高，且随着调制阶数的增大而呈指数增长。　　本论文在国家自然科学基金项目的支持下，对联合信源信道与调制编译码理论与方法进行研究，取得了阶段性成果:从调制与星座映射方案的优化入手，与已有的联合信源信道编译码系统以及编码调制系统相结合，对信源编码、信道编码与调制三个环节联合优化设计，实现低复杂度和高编码增益的联合系统。　　本论文研究工作的主要创新点包括:　　(1)针对传统比特级调制方法对可变长符号信源适用上的局限性，提出了一种可变长符号级多维调制方法。该方法利用符号信源的先验信息，并在信源码字中引入受控冗余，对符号级多维调制映射规则进行优化设计，可以同时对信道译码序列的自由汉明距离和调制符号序列的自由欧氏距离进行优化，是一种适用于可变长联合编译码系统的调制方案。　　(2)分析了图像、视频等多媒体数据的特点，提出一种适用于图像、视频的可变长符号级联合信源信道与多维调制的编译码系统。该系统首先利用自适应信源编码的方法，将图像、视频比特流转化为符号空间较小的可变长符号，然后利用(1)中的可变长符号级多维调制方法对其进行调制。该系统能够同时增大译码路径的自由汉明距离和调制符号序列的自由欧氏距离，在不增加额外信道冗余的情况下提高系统的整体传输性能，实现低译码复杂度和高编码增益的联合编译码系统。　　(3)研究了编码调制系统的调制与星座映射方法，针对常规星座映射优化算法复杂度高，且随着调制阶数的增大呈指数增长的问题，提出一种适用于高阶调制的低复杂度的星座映射优化方法。该方法基于掺杂的比特交织编码调制迭代译码(Bit-Interleaved Coded Modulation with Iterative Decoding, BICM-ID)系统，利用外信息传递图(Extrinsic Information Transfer Chart，EXIT Chart)作为辅助工具，通过曲线拟合的方法对星座映射规则进行优化，降低了星座映射优化算法的复杂度。　　(4)针对(3)中提出的规则星座映射方法在掺杂BICM-ID系统中性能的局限性，提出了一种非规则的星座映射优化方法。该方法首先将调制前的码序列划分为若干码组，对这些码组分别采用不同的星座映射规则和掺杂速率。然后同时利用距离谱的理论分析工具和EXIT曲线拟合的方法，对非规则星座映射及对应的掺杂速率进行优化。通过该方法得到的最优的非规则星座映射能够为掺杂BICM-ID系统提供接近信道容量的性能。　　(5)研究了加性高斯白噪声(Additive White Gaussian Noise，AWGN)信道和瑞利衰落信道的特性，提出一种同时适用于AWGN信道和瑞利衰落信道的联合优化算法。该算法利用信号空间分集（Signal Space Diversity，SSD）技术，能够在不消耗额外带宽的情况下，为瑞利信道提供很好的分集增益，同时不损耗系统在AWGN信道下的性能，从而实现在两种不同信道下的联合优化。