随着大数据信息时代的不断发展,人们对获得信息以及信息传输的速度和质量提出了更高的要求。传统的多输入多输出系统(Multiple-Input Multiple-Output,MIMO)难以满足信息高速传输需求,大规模MIMO系统通过布设大量天线充分挖掘空间资源,能够在不消耗额外频谱资源的条件下提供更多的复用增益,进而提高系统容量。在实际通信系统中,具有大量天线数的大规模MIMO系统如果仍然以传统的方式为天线配置射频链路(Radio Frequency,RF),将会大大增加系统硬件成本和复杂性,并限制天线性能。天线选择技术可以保证大规模MIMO系统性能,减少实际使用的RF数量,降低系统成本与损耗。本文主要针对适用于大规模MIMO系统的天线选择算法进行讨论和研究。主要研究内容如下:1)针对大规模MIMO系统中天线选择算法运算复杂度过高的问题,分析了不同天线选择算法的特点和适用条件,基于最大化信道容量准则提出了最大欧式范数双向天线选择算法。该算法通过矩阵范数并沿空集递增和全集递减两个方向完成天线选择。仿真验证证明最大欧式范数双向天线选择算法能够降低算法计算复杂度,可适应不同选择天线数的环境,同时能够保证系统性能。2)针对大量天线情况下天线间易存在相关性且矩阵维度过大的问题,根据分组处理信道矩阵的思想,提出了Maxvol分区(Maxvol Partition,Maxvol-P)算法。为了进一步优化系统性能,通过结合最大欧式范数双向选择算法,提出了新的收发联合算法,简称新型分区算法,该算法通过处理分区后的信道子矩阵来完成天线选择。仿真结果证明新型收发联合分区天线选择算法能够有效降低天线相关性对系统的影响,适应不同的信噪比环境,在信噪比较低的环境下仍然具有较高的信道容量。3)针对大规模MIMO系统传播环境复杂的问题,利用阈值完成算法的动态选择,再与最大欧式范数双向选择算法相结合,提出了新的收发联合算法,简称新型阈值算法。通过分析不同算法所适用的通信环境,根据通信信道参数与阈值的关系动态选择适合的算法进行天线选择。仿真和推导证明新型收发联合阈值天线选择算法能够适应不同天线相关性和信噪比环境,在复杂的传播环境中保持系统性能的稳定。