比特交织编码调制迭代译码系统(BICM-ID)由于复杂度低、灵活性强、频谱利用率高、性能优异等特点，作为下一代无线移动通信链路中的一种关键技术受到广泛关注，如4G、IEEE802.11n等。目前，针对BICM-ID系统以及结合多天线、空时编码技术的比特交织空时编码调制迭代译码(BI-STCM-ID)等系统调制技术的研究主要集中在纠错码、交织器、标识映射的优化设计等方面，相应的解调器设计主要针对联合均衡的迭代译码、解映射设计等方面。虽然这些方面已经取得了相当多的成果，但仍存在许多问题需要解决，如最优标识映射、低复杂度解映射算法等。本论文正是基于这方面的考虑，针对BICM-ID系统的各种调制解调技术进行优化设计。论文首先研究BICM-ID系统的分析方法。一方面分析了BICM-ID系统以及BI-STCM-ID系统的性能限问题，并讨论了性能限的进一步逼近。另一方面，提出了两种不同于外部信息交换图(EXIT)的信息图构造方法，称为DID图和NOMI图。新信息图形状类似BER图，可以表征整个信噪比区间上的陡降、错误平层等，而且实现复杂度要远低于BER曲线。作为一种有效的分析方法，DID图和NOMI图贯穿论文其它章节。另一个重点就是关于EXIT图、DID图以及NOMI图的扩展应用研究。论文提出了一种复杂度较低的迭代控制方法，利用设计的迭代度矢量，达到控制迭代次数，减小系统延迟的目的。论文紧接研究BICM-ID系统的调制端的优化问题，首先分析影响BICM-ID系统性能的各种因素，如纠错码、交织器、标识映射方法等，并给出系统设计时各个模块的实用参考准则。例如：错误平层低的标识映射方法和纠错能力差、结构简单的纠错码结合，可能会取得好地迭代性能。调制端优化的重点为映射标识方法，包括通常二维星座标识、多维标识、多天线系统下的标识等优化问题。一方面通过对特征参数以及性能限的研究，从理论上说明各种映射的优势以及不足；另一方面利用计算机仿真结果以及外部信息交换图(或DID／NOMI图)，进一步验证结论。论文指出最佳映射和系统设计指标，如信噪比区间、实现复杂度、性能等密切相关，并基于优化的成对错误概率的代价函数，利用不确定先验信息，提出了一种定义区间最佳(DRO)映射方法。考虑到整个信噪比区间的性能，基于信息交换图，论文提出了一种自适应标识映射方法以获得近全局最佳性能。利用设计的DID图和NOMI图，有效解决了其中的两个难点问题：自适应标识映射集合的确定和切换信噪比点的确定。除了针对通常二维映射的优化，论文另一个重点就是关于多维标识映射的研究。采用多维标识，迭代性能有很大提高，代价就是增加接收检测算法复杂度。论文给出了QPSK以及8-PSK星座的最优或近最优多维映射构造方法，在此基础上，通过修正的分段BSA搜索算法，将多维映射首次扩展到更高阶的16QAM调制并给出不同信道下的计算机仿真性能。论文还重点研究迭代接收的算法优化问题。采用MIMO技术可以大大提高系统的吞吐量或者性能，但也加大了系统接收机的实现复杂度。特别是相关的检测或解映射技术，其性能对系统整体性能影响很大，而其实现复杂度也是决定接收机整体复杂度的关键。论文针对接收机中关键的软输入软输出(SISO)解映射器进行优化设计，针对多天线系统下近MAP性能的列表球形译码(LSD)算法，提出了一种改进的自适应半径ILSD算法。研究表明，ILSD算法的计算复杂度有了大幅度降低，和半径参数几乎无关，且随着天线数的增加，复杂度低的优势越明显。因为半径可以设置很大，其性能也得到相对提高。论文研究了多维映射BICM-ID系统下的软输入软输出解映射算法。在通常SISO最大后验概率检测算法的基础上，推导了采用多维映射时基本的MD-MAX-LOG-MAP算法公式，并首次结合多天线系统下的经典检测方法提出两种简化算法：一种利用树搜索算法选择发送符号矢量空间，称为MD-TS算法；另一种利用列表球形译码算法选择可能发送符号矢量空间，称为MD-LSD算法。简化算法降低复杂度和选择的列表长度成比例，仿真结果表明，列表长度满足一定范围时，性能损失可以忽略。BI-STCM-ID系统不适合频选信道，可以通过结合正交频分复用技术(OFDM)克服。针对高数据率比特交织空频编码调制系统(BI-SFCM，本文也称为BICM MIMO-OFDM)，论文最后提出了一种简化的联合信道估计、迭代检测和译码实现方案。该方案中信道估计利用信道频域相关性降低FFT阶数并提供给解映射算法信道状态信息。解映射算法采用ILSD算法，其计算复杂度可以利用信道估计特性进一步得到大幅度降低。通过对不同时变多径信道模型进行性能仿真，说明本文BICM MIMO-OFDM系统适合频率选择性衰落信道，且采用简化算法带来的性能损失可以通过增加迭代次数补偿。