随着无线通信技术的高速发展,人们对通信质量和通信速率的要求也随之剧增。如何在有限的频谱资源条件下,解决通信系统的信道容量以及频谱利用率问题,成为了当前最重要的问题之一。由于多输入多输出(Multiple Input Multiple Output,MIMO)技术能有效提高系统的信道容量和频谱利用率,而分布式天线系统具有覆盖范围广、传输速率快等优点,因此将这两种技术相结合的分布式MIMO系统应运而生。分布式MIMO系统继承了两者的优点,因而受到了广泛的关注。但又因多天线的应用,导致了系统复杂度更大,硬件成本更高。而天线选择技术能有效改善这些问题。因此,如何合理地将天线选择技术运用到分布式MIMO系统中成为了本文的研究重点。本文以传统的MIMO技术为出发点,重点研究了分布式MIMO系统,并且研究了天线选择技术在MIMO系统和分布式MIMO系统中的应用。首先,本文研究了MIMO系统的信道容量,进而对分布式MIMO系统的信道容量进行研究。并通过仿真分析了分布式MIMO系统和集中式MIMO系统性能。其次,研究了几种经典天线选择算法对MIMO系统性能的影响。之后结合粒子群算法,提出一种适用于MIMO系统的优化算法。该算法主要通过改进模糊函数来提高二进制粒子群算法的收敛性,并仿真分析了该算法的性能。最后,本文针对分布式MIMO系统,研究了经典的天线选择算法对其的影响,通过仿真分析了这些算法的性能。并提出一种新的基于分布式MIMO系统的天线选择算法,该算法考虑了系统能效以及天线选择,仿真结果表明:与穷举算法相比,该算法能有效降低系统的运算复杂度,减少信道容量的损耗,且系统能效趋近于最优算法。