空时编码将发射信号在空域和时域都引入联合相关,不仅可以同时取得分集增益和编码增益,而且能得到很高的频谱效率。比特交织编码调制方案克服了传统上编码和调制相互独立的缺陷,利用交织技术将编码和调制联系起来,提高了系统在衰落信道中的性能。将空时编码和比特交织编码调制有效结合,能进一步地发掘多天线系统的潜能,是当前无线通信中的研究热点和技术难点。而标志映射是影响空时编码和比特交织编码调制联合系统性能的重要因素之一。基于此,本文将差分酉空时调制和比特交织编码调制有效结合起来,研究了该联合系统中的标志映射优化问题。本文首先研究了空时编码的基本理论,对空时分组码和酉空时调制两类空时码的设计和实现进行了系统的讨论,在此基础上通过对这两种类型的空时码的仿真研究了其误码性能以及星座设计问题。其次,研究了硬判决BICM-ID的基本原理和系统模型,通过对BICM的误码性能进行推导分析,研究了BICM系统中标志映射的设计规则,并通过仿真比较了两种标志映射方式对硬判决BICM-ID性能的影响。再次,研究了基于循环群结构的差分酉空时调制原理,通过构造合理的代价函数,并对初始映射方式进行优化,利用BSA算法对其星座标志映射方式进行了优化。最后,将差分酉空时调制和BICM结合,构造了一种实现简单的BI-DUSTCM系统,通过分析该系统的渐进误比特性能,分别在有反馈和无反馈两种情形优化了该系统的标志映射方式,并针对BI-DUSTCM系统提出了其格雷映射方式,仿真结果证实了其有效性。