多输入多输出(MIMO)是一种在无线通信系统的发射端和接收端同时使用多根天线的技术,它可以提高无线通信系统的容量和传输可靠性。然而,随着天线的增多,射频(RF)链路的成本不断提高,制约了MIMO技术的广泛应用。因此,需要低成本、低复杂度的技术来克服上述缺点。天线选择技术通过从所有的天线中选择最优的天线子集与射频链路连接,降低了MIMO系统的成本和复杂度,成为研究的热点。但是,现有的MIMO系统研究大多数都假设信道是独立同分布的,而在实际的传输环境中,由于散射体分布及天线特性的不理想等因素的影响,MIMO信道不可避免的存在空间相关性。基于此,本文研究相关信道下MIMO系统天线选择算法。首先,论文研究了MIMO系统的基本理论,给出了MIMO系统信道模型,详细分析和推导了发射端已知和未知信道状态信息(CSI)时系统的信道容量,并仿真比较了两种情况下系统信道容量的关系。着重介绍了相关信道模型,在此基础上定量地分析了相关信道下MIMO系统的信道容量与性能,通过仿真验证了理论分析的结果。其次,对基于信道容量最大化的经典天线选择算法进行了总结,通过仿真分析和比较了这些算法的性能及优缺点。然后提出了一种低复杂度的改进天线选择算法(仅考虑接收天线选择),本算法将递增与递减选择相结合,弥补了现有算法仅适用于射频链路数较少或较多的缺陷。通过仿真实验表明,改进算法对任意大小的射频链路数均适用,所获得的系统性能优于基于不相关等次优天线选择算法,与最优天线选择算法非常接近。最后,针对实际的无线通信环境,提出了一种新的用于相关信道的发射天线选择算法。该算法采用奇异值估计的方法对信道传输矩阵进行处理,避免了矩阵相乘和奇异值分解等复杂运算,有效降低了算法复杂度。仿真分析表明,不管信道相关性强弱,该算法获得的系统容量和误码(BER)性能均接近最优天线选择算法,具有较强的实用性。