无线通信技术和无线接入技术的快速发展,对先进传输技术提出了越来越高的要求,如何提高系统频谱效率和链路容量已成为无线通信系统设计面临的一个巨大挑战。MIMO(Multiple Input Multiple Output)技术的使用已成为无线通信系统中一个最显著的特点,它能在不增加带宽与功率的情况下成倍地提高无线通信系统的容量和频谱效率。波束形成(Beamforming,BF)则是MIMO的一种关键技术,它即使在有限反馈条件下,仍可以获得逼近MIMO系统需要精确信道状态信息(Channel State Infromation,CSI)时才能达到的容量,使系统有效性与可靠性都得到显著地提高,可以满足第四代移动通信系统所要求的高频谱效率和系统容量的要求。本文主要研究了单用户和多用户有限反馈系统中的波束形成技术。首先回顾了无线通信的基本知识：多径衰落和典型的无线信道模型、MIMO系统介绍、多用户分集技术和MIMO系统中的波束形成技术、以及单用户和多用户有限反馈系统中的用户调度算法；接下两章主要研究了单用户有限系统中的波束形成技术和多用户有限反馈系统中的波束形成技术,并提出了几种有效的波束形成算法和方案。主要创新点在于：(1)、针对随机波束形成(Random Beamforming,RBF)在少用户场景下系统性能下降和特征波束形成(Eigen Beamforming,EBF)在多用户下需要大量反馈信息的问题,提出基于环境感知的系统绝对值代价函数动态调度天线工作模式的波束形成方案。系统在RBF和EBF形成两种天线模式下动态进行切换,在少用户下明显改善系统性能,而在多用户时保证系统性能的同时减少反馈量,从而最优化无线通信系统性能。(2)、针对实际MIMO系统无线信道存在的空域相关性,和发射端对反馈CSI的精度很敏感、需要存储大量瞬时变化信道信息等问题,提出了一种基于相关信道统计的改进算法。基于此算法,并采用随机码本量化信道信息形成一种新波束形成方案,解决了常规波束形成需要大量信道反馈信息和相干机会波束形成系统性能对信道瞬时变化信息敏感的问题。提出方案在相关信道下相当有效,其性能超过常规波束形成,即使在有限反馈限制条件下,其性能亦接近相干机会波束的性能。该方案不仅可以大量降低系统反馈量,且对CSI反馈具有更强的鲁棒性,同时能更好利用空域相关性。(3)、为了降低系统反馈量和提高系统性能,提出一种基于信道质量干扰比(Quality-to-Interference Ratio,QIR)为量化标准的新波束形成方案。该量化准则可以同时保证量化信道质量和使其子信道之间互干扰最小,它比传统量化准则具有更优良的性能；并采用DFT(Discrete Fourier Transform)基作为码本量化CSI。最后仿真验证该方案在有限反馈条件下,总体性能优于RBF,且在低信噪比场景下优于EBF,大大改善了系统性能。因此,该方案在有限反馈条件下保证系统总体性能。(4)、针对目前存在的波束形成技术很少涉及同时兼顾系统容量和误码率性能,以改善系统总体性能方案的研究。提出基于等效信道特征值积(Eigen Values Product,EVP)为量化准则的一种新波束形成方案,并给出了等效信道特征值积量化准则的计算公式,它能同时兼顾系统信道容量和误码率,相比较于仅考虑信道容量或者系统误码率的传统量化准则更具优势。通过计算机仿真验证该方案可以明显同时改善系统误码率和信道容量,因此它是一种比较好的波束形成方案。最后,还详细研究了多用户分集和精确CSI对多用户有限反馈系统的影响,并从实验角度对其详细仿真和验证,验证各个参数对系统性能的影响。此外,介绍和分析了两种典型多用户有限反馈系统的波束形成技术：每用户速率控制(Per Unitary basis stream User and Rate Control,PU2RC)和迫零波束形成(Zero-Forcing Beamforming, ZFBF),借鉴目前研究成果,从理论和实验两方面进行了详细的分析。总之,提出这些波束形成算法和方案有效解决了目前单用户和多用户有限反馈系统中波束形成技术存在的一些问题,并通过仿真验证了其有效性,所研究和提出的波束形成方案具有一定的理论和实际意义,具有广阔的应用前景和参考价值。