多输入多输出(MIMO－Multiple Input Multiple Output)技术在不增加功率和带宽消耗的情况下具有大幅度提高无线通信系统容量和频谱利用率的潜力，被认为是未来无线通信系统至关重要的技术之一。通过使用该技术，可以较大地改善系统的移动通信质量，提高数据传输效率。但是由于MIMO系统在无线链路发送端和接收端使用了多天线配置，这就需要配备多个射频链路单元，导致系统实现的硬件费用和复杂度大幅度地增加。因此就需要在所有发射端和接收端可用的天线中，按照一定的准则选择出满足需要的天线进行发射和接收，以达到均衡系统性能和降低硬件复杂度的目的。因而，天线选择技术是目前MIMO无线通信领域的一个研究热点。论文在对MIMO系统经典的天线选择算法进行分析的基础上，重点对发送/接收天线子集选择算法以及近似优化的收发联合算法进行分析研究；然后针对两者复杂度较高和只适用收发两端选择相同数目的天线而不适用于选择不同的数目时的问题，提出了一种改进的发送/接收联合天线选择算法，该算法采用天线子集选择的思想，并且结合近似优化算法进行天线选择。使用该算法，收发两端可以选出不同数目的天线，系统的计算复杂度得以降低，同时实现系统容量性能的最优化。传统的MIMO系统天线选择算法是在理想信道模型中实现的，忽略了天线间隔较小时，天线间互耦影响这一实际问题。论文在最后一部分对紧凑型MIMO系统以及该条件下的联合天线选择算法进行了研究。通过引入Hui.T的接收互阻抗方法对互耦进行了合理的表征，建立了瑞利衰落相关信道下的MIMO系统模型，并在该系统中对本文提出的联合天线选择算法进行了仿真分析。从仿真结果中可以看出，在互耦MIMO系统中，论文所提出的算法同样可以获得较优的系统性能。