随着无线通信在过去的一二十年里的飞速发展，以及无线Internet接入、宽带多媒体业务需求的日益增长，无线通信所需要支持的速率也越来越高。当前很多研究表明，MIMO(multiple input multiple output)通信系统能在不增加发射功率和系统带宽的情况下成倍地提高系统的容量。MIMO技术成为第四代移动通信系统的关键技术之一。 在以往的多天线传输研究中，一般假定MIMO信道是独立同分布的，然而在实际的无线传输环境中，MIMO信道往往是空间相关的。研究信道的相关性对系统容量的影响和相关MIMO信道建模成为MIMO技术的研究热点。 另一方面，由于MIMO系统需要多个射频链路，而射频链路又非常昂贵，因此MIMO技术不可避免要增加系统的复杂度和硬件的成本，而天线选择技术能有效地减小射频电路的成本和系统复杂度且同时保持MIMO系统的主要优点，因此对天线选择技术的研究具有较强的实际应用价值。 本文的工作正是基于以上研究背景，对相关信道条件下的MIMO系统容量进行理论研究，并且由此提出了一种新的天线选择算法，主要包括以下内容： 概述了移动通信从lG到4G的发展历程，阐述了第四代移动通信的关键技术和MIMO技术的研究热点，这是本文的研究背景。 介绍了无线移动传播信道的特性，全面地概述了MIMO无线信道，详细介绍了现有MIMO无线信道的典型模型。合理的MIMO无线信道模型可以模拟各种实际信道环境，是仿真与优化设计高性能MIMO通信系统的基础。 分析了各种条件下的MIMO系统容量和当前主要的天线选择算法。 通过分析相关信道条件下的信道容量，本文从信道容量最大化的角度提出了一种天线选择算法：计算收(发)端天线子集的空间相关矩阵的行列式，选择行列式值最大的组合就能得到信道容量最大的天线组合。结合具体的信道模型，分别采用均匀线性阵列与均匀环形阵列对该算法进行仿真。仿真的结果表明了算法的正确性。进行天线选择后信道容量略有损失，本文在天线选择的基础上进行了Water-Pouring算法的仿真。仿真的结果表明，该Water-Pouring算法对信道容量有很好的优化作用。这一部分是论文的重点。 论文最后对全文作了一个总结，指出存在的问题和下一步需要改进的地方。论文的研究结果对于实际的MIMO通信系统中的天线选择和发射端功率分配具有一定的参考价值。