无线通信中的MIMO(Multiple Input Multiple Output)技术能够为通信系统带来信道容量的增益，因而作为提高数据传输速率的重要手段而备受关注。然而，空时相关性的存在，使得MIMO通信系统的实际应用受到限制，本文通过分析MIMO系统的信道模型，深入研究空时相关多天线通信系统的有效性，主要工作如下：首先，在深入研究MIMO信道模型的基础上，提出了基于等效簇的MIMO信道几何模型，并对相关系数进行了推导。进而研究了平坦Rician衰落MIMO相关信道下的信道容量，从理论分析和仿真两方面分析了不同参数对遍历信道容量和中断容量的影响。其次，给出了基于等效簇的频率选择性Rician衰落MIMO信道模型，推导了出收发相关的场景下，MIMO-OFDM系统的信道容量表达式；研究了频率选择性Rician衰落MIMO信道容量及物理参数的影响；分析了多簇平坦衰落信道与多径频率选择性衰落信道之间的关系，得出了空时对偶性的结论。再次，验证了基于等效簇平坦衰落模型下Rician衰落MIMO信道容量的界，并分析不同应用场景和不同条件下MIMO信道遍历容量的界。研究了Rician相关衰落MIMO信道互信息的分布，进而对中断信道容量进行分析。重点研究了MIMO-OFDM系统相关衰落信道容量的上下界，推导并证明了收发相关频率选择性Rayleigh衰落的上下界。对频率选择性信道的中断信道容量进行分析，推导出频率选择性衰落系统互信息近似服从高斯分布的方差，并通过仿真验证。最后，研究了反馈MIMO信息论及空时线性预编码系统中的信道容量问题，并与传统的MIMO系统进行了比较。提出了虚拟MIMO预编码技术，并针对未来的多媒体应用，给出了基于QoS的虚拟空时线性预编码系统的功率分配方案。