多输入多输出(MultipleInputMultipleOutput)无线系统是当前无线通信的一个发展方向。理论证明，MIMO系统的信道容量随发射/接收天线数线性增加。在多径环境下，MIMO无线系统可以为系统提供空间复用增益和空间分集增益。目前针对MIMO系统所进行的研究也主要围绕这两个方面。空间复用技术可以大大提高系统频谱利用率，而空间分集技术则可以提高信道的可靠性，降低信道误码率。 MIMO系统的空间复用编码技术将需要传送的信号经过串并转换成几个平行的信号流，并且在同一频带上使用不同的天线同时传送。空间复用系统要求接收天线数大于等于发射天线数，所以在接收端要进行发射天线的选择。针对基于最小奇异值的天线选择法则计算量太大的缺点，论文提出了一种简化的天线选择法则，首先进行天线分组，然后再基于信道的最小奇异值进行选择。 论文提出了利用低速率反馈信道，根据当前的信道状态信息通知发射端进行发射模式选择，以解决空间复用系统分集增益较低的缺点。系统在接收端在空间复用和最优天线选择模式中进行选择。论文提出了基于矢量符号错误概率、基于SNR和基于信道条件数的三种选择法则。仿真结果表明，双模空间复用系统能够得到完全分集增益。论文把双模系统进一步扩展到多模式空间复用系统，允许在最优天线选择和空间复用中获取更大的自由度。仿真结果表明多模式空间复用系统可以进一步提高系统性能。论文在对现有的三种分组调度机制：轮询法、多用户分集法和最优天线法进行了分析的基础上，提出了一种结合轮询和多用户分集特点的分组调度机制，既提高了系统的吞吐量，又保证了用户间的公平性。同时提出了“最大删除法”简化了计算量。 正交空时分组码是实现完全发射分集增益的一种技术。由于其可以通过简单的一维最大似然译码算法实现完全发射分集增益而成为最实用的一种空时编码方案，通过Alamouti分组编码和正交空时分组编码分析可知，通过增加发射天线数可以提高发射分集增益，而且正交空时分组码的误符号率和信道矩阵的Frobenius范数成反比。 论文提出了正交空时分组码预编码方案解决了正交空时分组码系统的码组只能为特定的发射天线数设计，并且解码延迟随着编码的天线数增加而增加的缺点。对信道矩阵进行奇异值分解，可以得到最优预编码器。针对量化带来的噪声放大和反馈信道容量有限，论文提出了一种简化的天线选择预编码方案，可以大大减少反馈的信息量，同时仍然获得完全发射分集增益。 针对空间复用系统可以得到复用增益，而正交空时分组码可以得到完全发射分集增益的优点，通过把这两种编码方案组合起来可以同时获得复用增益和空间分集增益。组合系统可以解决空间复用系统分集增益较低，而且接收天线数必须大于等于发射天线数，而正交空时分组码的码组仅仅存在特定的发射天线数，并且无法通过增加发射天线提高传输速率的缺点。论文提出了一种改进的组合系统的接收机方案，和现有的线性组接收机和基于QR分解的连续干扰消除组接收机不同，通过等效把组合系统变成一个等效的空间复用系统。仿真结果表明，改进的接收机方案不仅可以提高误码率性能，而且可以把接收天线数降低一半。论文还针对组合系统的发射天线数必须为偶数的缺点，提出了针对组接收机和等效法接收机的不同的天线选择方法。