本文主要讨论了基于发射分集技术的空时分组码(STBC)和基于空间复用技术的垂直分层空时码(V-BLAST)。通过对这两种编码的性能仿真和分析可知,STBC可以获得较大的发射分集增益,但是频谱效率不高；V-BLAST具有很高的频谱利用率,但抗衰落能力较差。针对STBC与V-BLAST各自的优缺点,本文重点对STBC与V-BLAST结合的两种MIMO系统进行了深入研究。一种是根据信道特性动态地在STBC和V-BLAST之间切换的自适应MIMO方案,该方案在接收端根据估计的信道矩阵对STBC和V-BLAST这两种模式做出性能估计,根据切换准则,选择一种较优的发送方式,并将选择的结果反馈到发送端。发送端则根据指示切换到相应的传输方式,以适应信道的变化。文中着重分析和仿真了最小误码率切换准则,仿真结果表明,与单独采用STBC或V-BLAST方案相比,该方案的误码率性能是最优的；另一种是将这两种编码结合的分层空时分组码(LSTBC)方案,主要研究了基于QR分解的组干扰抑制的译码方法,并通过仿真对LSTBC的性能进行了详细讨论,仿真结果表明,LSTBC的性能增益更接近理想的性能增益折衷曲线,在分集增益和复用增益之间取得了折衷。最后将几何均值分解(GMD)技术应用于LSTBC,以进一步改善系统的性能。