多输入多输出(MIMO)技术能够有效地提高系统的容量和降低误码率,成为了目前各种先进的通信系统的关键技术之一。但是由于多输入多输出系统需要较多的射频链路,使得系统的成本和复杂度增加。天线选择技术的出现很好的解决了这个难题,天线选择技术能在减少MIMO系统复杂度的情况下保留MIMO技术的优势。系统容量是衡量系统性能的一个非常重要的指标,因此给出系统容量的表达式以及其闭式解是非常必要也是非常有意义的研究工作。传统的MOMO系统容量分析都是在假设信道是不相关的条件下来进行的,但是在实际系统中信道却往往是相关的,因此研究相关信道下面的天线选择系统更具有实际意义,本文的研究都是基于相关信道模型。在接收端和发射端同时选择任意数量的天线,这样的系统我们称为一般天线选择系统。由于数学计算上的局限性,计算一般天线选择系统的容量闭式解一直是个公开的难题,相关信道下的天线选择系统的容量分析就更加复杂,因为不仅信道矩阵的分布难以求得,信道的相关矩阵也随着不同的选择算法而不同。本文在信道相关的条件下分析了天线选择系统的容量问题,由于容量的闭式解难以求得,我们主要研究容量的界限以及界限的闭式解问题。以往的容量界限的分析都是基于容量表达式中信道矩阵的处理,数学分析上的复杂性很高。本文避开了这个难题,从相关矩阵的处理入手,从而能很容易的给出天线选择系统的界限表达式。本文主要分析了两类系统的信道容量界限。首先给出了在发射端选择一根天线,在接收端选任意数目天线的天线选择系统(我们称为这样的系统为m×1天线选择系统)的容量界限,并且给出了在特殊情况下的界限表达式的闭式解。随后又给出了一般的天线选择系统的容量界限,在接收端和发射端都选任意数目的天线(我们称这样的系统为m×n天线选择系统),并且也给出了特殊情况下的容量界限的闭式解。最后我们利用MATLAB软件仿真验证了我们的分析结果。仿真结果表明我们给出的容量界限非常紧凑,并且我们求出的界限的闭式解的理论值与仿真值也是完全吻合的。