随着人们对先进无线通信技术业务需求的不断提高,越来越多的人开始将注意力集中到对下一代更先进的B3G(Beyond 3G)或4G移动通信技术的研究上。从技术角度来看,更高的数据传输速率、更大的系统容量和更好的通信质量是新一代移动通信技术所要突破的关键。波束形成技术源于智能天线,增强期望、抑制用户干扰是其典型的技术优势,也是SDMA(Space Division Multiple Access)能够得以实现的基础。而STBC(Space Time Block Code,空时分组码)是实现MIMO(Multiple Input Multiple Output)分集的重要手段,它能够减轻信道的多径衰落。从发展的趋势上看,两者的有效联合能够充分发挥多天线的优势,进而实现系统性能的大幅提升。本文针对之前研究过程中存在的问题,在借鉴国内外最新思路的基础上,提出了一些新的改进。首先,分析空时分组码和波束形成技术的基本原理,重点介绍正交空时分组码、准正交空时分组码和发射波束形成,为后续研究两者的联合方案提供充分的理论依据;扩展波束形成的概念,既包括了应用于智能天线系统的传统波束形成,也包括了MIMO无线系统中广义的波束形成。其次,比较依据天线序列组分类的空时编码和波束形成的两种联合方案的性能,分析在不同的波达方向和信噪比下的性能表现。并且对两种方案中的关键系数进行推导,优化了系统仿真结果。最后,提出了一种基于准正交空时编码的多用户下行链路发射波束形成改进方案。该方案的主要特点是分离系统的发射信号,通过复合加权和接收天线接收方式的改进,能消除来自临近信号的干扰,进而增加系统性能。对非完美信道的情况也进行了研究。