多天线技术是新一代移动通信系统中的关键技术之一,其在不增加系统带宽的前提下,能极大地提高通信系统的频谱利用率、容量和数据的传输速率。基于空时编码的发射分集技术和作为智能天线核心技术的波束形成技术是实现多天线系统性能提升的两种有效手段。空时编码技术利用多个天线之间的独立性进行分集合并处理,能够带来显著的分集增益,并提升系统容量。波束形成技术则是利用多个阵元接收信号的高度相关性进行信号处理,可以有效地抑制码间干扰和多用户干扰。在应用中采用适当的策略将二者有机的结合起来,在增进系统性能和增加无线通信系统容量方面有着极大的潜力。本文对联合准正交空时编码(QOSTBC)与波束形成技术的MIMO系统进行了研究,主要工作如下：(1)在传统的准正交空时编码基础上,深入研究了基于旋转因子的准正交空时编码。这种编码通过引入旋转因子,将原来的星座旋转一定的角度,形成一个新的星座,通过选择最佳的旋转角度就可以实现全分集。(2)针对点对点的单用户MIMO系统,将准正交空时编码技术和波束形成技术结合,提出了一种新的基于波束形成的准正交空时编码系统。不同于传统的4发1收的准正交空时编码系统,该系统发射端采用4个独立的天线阵列来发送信号,将准正交空时编码技术与波束形成技术结合,能够同时获取分集增益和波束增益,显著改善系统性能。进一步将此方案与正交频分复用(OFDM)技术结合,应用于宽带通信系统中,通过MATLAB仿真验证其可行性和有效性。(3)将准正交空时编码与波束形成的结合技术应用于多用户MIMO系统中,为了凸显波束形成技术抑制用户间干扰的作用,提出了一种基于卷积和的复合权算法。该方案将加权向量通过卷积和分解为两个子加权向量,利用传统的迫零算法和基于特征值分解算法来确定两个子加权向量,分别用来抑制用户间干扰和实现QOSTBC分集增益。并进一步将此方案与正交频分复用(OFDM)技术结合,应用于宽带通信系统中,通过MATLAB仿真验证其可行性和有效性。