MIMO技术利用增加天线对而不是额外的带宽来成倍提高数据速率,能很好解决无线频谱资源短缺的问题,成为下一代无线通信系统的关键技术。当发射端已知信道状态信息(CSI)时,MIMO系统能通过发射预处理来进一步提升性能,在频分双工(FDD)系统中,发射端信道状态信息(CSIT)通过有限速率的反馈链路获得,研究如何反馈并利用CSI的有限反馈技术已成为多天线通信系统的热点和重点。在MIMO-OFDM系统及多用户MIMO系统中,CSI的反馈量随着天线数量、子载波数量、用户数量急速增长,如何有效降低反馈量来提高系统吞吐量是一个亟待解决的重要问题。本文围绕这一问题展开讨论,简单综述了MIMO系统有限反馈技术的基本原理及研究现状,并重点研究了时间相干MIMO系统、MIMO-OFDM系统和多用户MIMO系统中的有限反馈技术,所作的主要创新工作如下：针对时间相干信道MIMO系统,提出了三种有限反馈方法。首先,提出了种基于邻域的有限反馈方法,包括周期性反馈和自适应反馈两种方案,利用前一帧码字的邻域内码字组成当前帧的新码书,从而大幅度降低反馈比特数,相比现有的基于状态转移概率的反馈方法,该方法实现简单且性能近似。随后,提出了一种基于树结构码书的有限反馈方法,将当前帧信道向量量化到前一帧码字的子码字上,在信道相干性较强时该方法能有效提高CSI量化精度并改善BER性能。最后,提出了一种基于信道预测的有限反馈方法,每隔多个数据帧才反馈一次CSI,并以BER最小化准则选择最优CSI码字,采用自回归预测模型来补偿反馈时延带来的性能损失,在所提反馈方法中性能最优,同等反馈速率下性能优于现有的基于马尔科夫链的反馈方法。针对MIMO-OFDM系统,提出了三种有限反馈方法。首先,提出了一种基于平均信道响应的分簇算法,将簇内平均CSI进行量化,并给出了该算法与其他分簇算法的计算复杂度比较,仿真结果表明信道均值分簇算法能在性能和复杂度之间很好折中。随后,在分簇算法的基础上提出了两种反馈降低方法,能充分利用相邻簇码字之间的相关性来进一步降低反馈量,包括递归反馈和基于格的反馈两种方案,前者实现简单但有轻微性能损失,后者几乎没有性能损失但实现复杂。最后,针对时间相干MIMO-OFDM系统,提出了一种在时频域二维分簇的有限反馈方法,将分簇思想拓展到时间域,对整个时频资源块进行分簇,并给出了不同优化准则下的二维分簇算法的性能比较。针对下行多用户MIMO系统,比较了几种经典的SDMA系统性能,并提出了一种多用户调度算法和一种反馈方法。首先,介绍了多用户机会波束成形系统、PU2RC系统、多用户预编码系统及各自的多用户调度方法,比较及分析了这些有限反馈系统的仿真结果,并得出一些重要的结论。其次,针对ZF-SDMA系统,提出了两种改进的贪婪调度算法,相比现有的半正交用户选择(SUS)调度算法,这些调度算法能确保调度到最多的用户,且不存在参数设置的难题,在用户数较少时改进的空间相关性最小化贪婪调度优于SUS调度。最后,针对ZF-SDMA系统,提出了一种基于分级量化的多用户有限反馈方法,对用于多用户调度的CSI采用低级量化,对用于多用户预编码的CSI采用高级量化,与传统ZF-SDMA系统相比,该反馈方法能有效降低反馈量或同等反馈速率下改善和速率性能。