近年来，移动通信技术迅猛发展，目前研究的热点是如何克服多径衰落信道的约束来提高移动通信的信息传送速率和用户容量，其中的一个研究热点是使空间域与传统时间域、频率域、或码域相结合，充分发挥空间域在无线通信领域中巨大的潜力。多天线系统包括智能天线和多输入多输出两种系统，都通过利用空间域方位角信息来提高通信质量和扩大信道容量的。其中自适应波束形成技术是智能天线系统的关键技术，目前在雷达、声纳等军事通信领域已得到广泛的应用，其算法决定了瞬时响应速率和电路实现的复杂程度。且一般智能天线在多径效应较轻情况下，性能良好，但是在多径效应较重情况时，性能下降明显。MIMO是在天线分集技术与智能天线技术的基础上发展起来的，在某种意义上属于广义的智能天线范畴。MIMO技术在发射天线端和接收天线端均使用多个天线，从而能在不增加系统带宽的情况下成倍提高系统的数据传输速率和传输质量。而且MIMO技术在多径效应较重时，性能较好。但是在多径效应较轻时，性能急剧下降。所以如果能将智能天线与MIMO技术结合起来，可以让它们更灵活、更高效地发挥各自的优势来提高系统性能。本文的研究重点是智能天线系统的自适应波束形成技术和MIMO系统的空时编码技术，主要包括以下内容：（1）首先介绍了智能天线系统中自适应波束形成技术的基本原理，接着介绍了五种常用的接收准则，基于这些准则，然后介绍了五种典型自适应波束形成算法，并对这五种算法进行了计算机仿真。最后本文在研究了传统的线性约束最小二乘恒模（LCLSCMA）波束形成算法的基础上，提出了一种基于子空间的线性约束最小二乘恒模（LCLSCMA-SUB）波束形成算法，计算机仿真结果表明，LCLSCMA-SUB比LCLSCMA约取得了0.8dB的信噪比增益，这是因为LCLSCMA-SUB波束形成算法将权向量约束在信号子空间内，从而有效消除了噪声子空间的影响。本文提出的LCLSCMA-SUB波束形成算法能有效改善系统性能。（2）介绍了MIMO系统的基本原理，然后在Alamouti编码的基础上，介绍了三发射天线和四发射天线的空时分组编码技术，接着介绍了MIMO系统中的波束形成原理，其中重点介绍了联合收发波束形成技术。最后对智能天线系统中的波束形成技术和MIMO系统中的波束形成技术的异同进行了比较分析，在此基础上研究分析了两者技术结合的可能性，并介绍了多种已有方案。（3）针对在频率选择性衰落信道情况下，MIMO系统的空时编码技术由于存在符号间干扰导致用户误码率性能偏高，在研究了智能天线自适应波束形成技术的基础上，本文提出了一种四发射天线的满码率，满空间分集增益的准正交空时编码与编码滤波自适应波束形成技术结合的系统模型及其算法，并对其在平坦衰落信道和频率选择性衰落信道两种不同的信道环境中与未采用编码滤波自适应波束形成算法的空时编码技术进行仿真比较，计算机仿真表明，本文建议的算法能有效改善用户在平坦衰落信道和频率选择性衰落信道中的误码率性能，具有较高的理论意义和应用价值。