随着无线通信在通信产业中的迅猛发展,人们对高速可靠数据业务的需求也不断增加。面对有限的无线频谱资源,多输入多输出(MIMO)技术因其在不增加带宽的情况下可以大幅提高信道容量并能够改善通信质量的独特优势被作为未来移动通信系统的关键技术,空时编码作为适合于多天线系统的编码技术与MIMO技术相结合,对无线通信的发展具有重要的意义。本文在分析已有空时编码性能的基础上,重点对基于空间分集技术的空时分组码(STBC)和基于空间复用技术的垂直分层空时码(VLSTC)进行了深入分析,并提出了一种STBC与VLSTC相结合的空时编码方案。发射端,该方案将发射天线进行分组,每组作为一层,在每层上对信号进行单独地正交空时分组编码,然后经发射天线发射。接收端,本文在原有的分组干扰抑制译码算法的基础上,提出一种基于分组干扰抑制的并行干扰消除迭代QR分解译码算法。该算法利用并行干扰消除方法并行处理的特点和循环迭代QR分解方法消除误码传播的优势来提高信号检测的可靠性,改善MIMO空时编码系统的性能。最后对STBC-VLSTC空时编码方案的性能进行了仿真,并与STBC和VLSTC两种编码方案的性能进行分析比较。分析和仿真结果表明,本文提出的空时编码方案融合了STBC和VLSTC所具有的优点,能够同时获得空间分集增益和空间复用增益。该方案在编码速率、信道容量和误码率方面均实现了两种编码性能的折衷,并且相比于原有的译码算法,改进的译码算法具有更高的抗衰落性能。