经过将近二十年持续而广泛的研究,多天线/多入多出技术(MIMO)已经成为了无线通信系统性能的重要保障手段之一,被广泛应用于各类无线通信系统与标准之中,包括3G、4G、802.11、802.16、无线自组织网络、卫星通信等,并仍将在未来5G和各类新型无线通信系统中发挥重要的作用。MIMO技术为无线通信系统提供了除了传统的时间域、频率域、编码域之外的新的自由度——空间域(或极化域)自由度。在此基础上MIMO系统对于系统性能能够提供至少两种实际而重要的帮助,即分集增益和复用增益。依靠分集,无线通信系统可有效克服无线信道衰落等不利影响。一直以来,关于如何实现MIMO系统的分集,包括发射分集、接收分集、协作分集等,始终是众多MIMO系统设计中的关键问题。虽然学术界、工业界已经对分集实现技术开展了深入而广泛的研究,但是,随着技术的发展MIMO系统中分集的实现也面临着各种新的、现实的问题,仍然有待进一步研究。本文在系统分析MIMO分集实现技术发展现状的基础上,针对当前MIMO技术若干典型应用场景中分集实现技术所面临的关键问题,包括1)低复杂度全接收分集信号检测算法设计,2)非理想特性对基于波束成形的协作分集获取的影响,和3)卫星正交极化MIMO系统设计与分集改善等,通过理论分析,针对各类系统中的实际问题提出了相应的解决方案,并完成了实验仿真。主要工作包括：1.考虑MIMO系统中接收分集的实现,格基约减辅助的(LRA)信号检测算法能够以多项式复杂度实现近似最优检测的性能,提高了全部接收分集的可实现性。然而,随着无线通信系统需求的不断提升,MIMO系统的天线数量不断增长,这使得系统运算复杂度同样显著增长。本文第一部分的工作重点围绕MIMO系统中全部接收分集的低复杂度实现问题,着重考虑格基约减的改进算法。通过对经典格基约减算法Lenstra Lenstra Lovasz(LLL)算法的深入分析研究,本文从格基约减顺序的优化和近似格基约减两个方向入手,ⅰ)首先理论1如果:MIMO系统中各天线采用不同的正交极化方式以实现信道的正交性,则称为极化MIMO2本文中不区分解码和信号检测的概念。证明了原LLL算法的约减顺序不是最优的,甚至弱于随机顺序约减,在此基础上提出了LLL算法的最优顺序约减条件,保证改进后的算法能够以最少的约减次数、更低的算法复杂度获得相同的约减性能；ⅱ)提出了一种新的近似约减条件以实现一类新的近似LLL约减算法。通过理论推导和计算机仿真,本文证明了经算法约减后,线性的迫零(ZF)算法、最小均方误差(MMSE)算法和非线性的串行干扰消除(SIC)算法都能够获得全接收分集,且其运算复杂度与原LLL算法相比大幅下降。2.考虑协作MIMO通信中发射分集的实现,目前有多种实现方案,例如分布式空时编码、基于波束成形的信号合并等。基于已知信道信息,中继节点通过简单的波束成形,可以实现类似接收分集的效果。这类协作分集方案可以避免节点间的协作策略设计等复杂问题,实现简便,在理想条件下有较好的效益。然而,在实际通信环境下,各类非理想特性可能对这类系统所期望的分集增益产生致命的影响。本文通过严格的理论推导分析了一类关键的非理想问题,即载波频偏,对基于波束成形的协作通信系统获取发射分集增益的影响,理论证明了即使很小的频偏都可能引起协作分集的严重损失。受协作波束成形技术启发,我们还考虑了无线网状网中,基于IEEE802.11s标准实现节点协作并利用波束成形提高网络容量的方法。3.近年来移动卫星通信中同样开始考虑通过多天线提高复用增益或实现分集。然而,由于卫星通信信道固有的特征,传统的基于天线间独立信道产生的空间分集难以实现,通过双正交极化天线实现的2x2极化MIMO是目前唯一可行的单卫星MIMO方案。针对这一特殊MIMO场景,本文提出了一种新型极化调制传输方案,基本思路是通过天线极化特征承载信息,避免交叉极化干扰。仿真实验结果表明,在相同的传输速率条件下,新方案与传统极化复用方案相比,能够获得更好的误码性能。本文对于当前MIMO系统发展中几种典型的应用场景,针对相关现实问题与挑战,进行了较为深入的理论分析与研究,对于MIMO系统性能的提升具有较为重要的现实意义。