未来无线通信网络不仅要具有更大的系统容量,还要支持高速率的无线通信传输业务,同时满足不同业务的服务质量(QoS,Quality of Service)要求。然而,随着人们对业务多样性需求的不断增长,无线频谱资源日益匮乏,已经成为遏制无线通信网络发展的瓶颈。因此,如何提高频谱利用率成为了当前无线通信研究的热点问题。基于多天线技术的跨层自适应机制可以有效地解决这个问题。一方面,跨层自适应机制允许网络各层共享与其它层相关的信息,对无线网络进行整体设计,使得在无线信道具有明显的资源受限和时变衰落的特性下,提高频谱利用率,保证用户的服务质量(QoS)。另一方面,多天线技术可以在不增加系统带宽和天线发射功率的情况下,使频谱利用率成倍增加并能够保证可靠的传输。本论文围绕频谱利用率的提高、无线链路传输性能的改进,分别针对物理层MIMO自适应方案和单用户MIMO、多用户MIMO跨层自适应方案展开了深入地研究。本论文的研究成果可为下一代无线通信系统的标准化提供参考依据。具体来说,论文的主要创新之处在于:1.针对物理层自适应MIMO系统,提出了两种改善系统性能的自适应方案。第一,在深入研究空时编码正交矩阵设计的基础上,提出了基于格拉斯曼流形构造的高率正交空时码的自适应方案,该方案对收发天线的数目没有限制,而且译码简单。第二,在DSTTD(Double Space-Time Transmit Diversity)系统中,利用信道反转思想提出了一种次优的非对称调制自适应功率分配算法,该算法对系统的性能改善明显。2.针对单用户MIMO系统的相关信道环境,在数据链路层丢包率和时延两个QoS约束下,利用跨层信息分析了AMC_OSTBC_T-ARQ系统中天线衰落相关性对频谱利用率的影响,给出了相关Nakagami-m信道下AMC_OSTBC_T-ARQ系统的频谱利用率、误包率、中断概率的闭合表达式;研究表明,相比Nakagami-2分布,相关性对Rayleigh分布下的跨层系统频谱利用率影响更严重。3.针对单用户MIMO系统中多天线带来的射频成本的限制,提出了一种基于发送天线选择结合正交空时码(TAS/OSTBC)的单用户跨层自适应方案,推导出了任意发射天线数目的TAS/OSTBC接收信噪比的概率分布函数和跨层系统频谱利用率的闭合表达式。4.针对多用户MIMO系统中空间分集与多用户分集的矛盾,提出了综合考虑物理层信道状态变化,联合自适应调制、TAS/OSTBC技术及多用户分集技术,对用户进行跨层自适应调度。以目标BER(Bit Error Rate)为QoS约束,分别推导出最大化SNR调度和归一化最大SNR调度算法在用户信道衰落不同分布时的多用户跨层系统频谱利用率的表达式,并与OSTBC传输技术比较得出:基于TAS/OSTBC技术的多用户跨层自适应调度方案可以很好的弥补OSTBC引起的多用户分集性能下降,提升系统的频谱利用率。