随着全球移动用户数量的迅速增加,以及高速率、宽带无线业务量的增长,无线业务的需求与有限的无线资源之间的矛盾日益突出。目前,无线通信系统中亟待解决的问题,即是在有限的频谱资源上传输大容量、高速率的无线数据业务,需要频谱效率极高的技术,来满足人们对信息需求的急剧增长。多输入多输出(MIMO)充分开发空间资源,利用多个天线实现多发多收,在不需要增加频谱资源和天线发送功率的情况下,可以成倍地提高信道容量和频谱效率,成为下一代无线通信系统的关键技术之一。尽管传统分层设计方法在有线网络中取得巨大的成功,但因各层相互独立,难以灵活适应无线网络的变化,无法有效利用有限频谱资源。而近年提出的跨层设计方法,因可充分利用网络各层的相关性,灵活地适应无线网络环境的动态变化,实现自适应优化配置和合理分配资源,已成为无线通信系统的研究热点。本文主要围绕着MIMO无线通信系统和跨层设计理论两方面展开深入的研究,并分别提出了基于单用户系统,多用户系统和协作传输系统的跨层设计方案。论文首先概述MIMO技术和跨层设计,阐述本文的研究背景及意义,分析MIMO无线通信系统和跨层设计及相关技术的国内外研究现状。然后,针对该领域的关键技术,从以下四个方面进行研究:1、单用户多天线系统中,研究一种闭环多天线跨层设计方案CL-MRC,并分析了反馈信道存在时延对系统性能的影响,推导了频谱效率和中断概率的闭合表达式;2、基于CL-MRC实现较复杂,研究一种单用户下多发一收的闭环跨层设计方案CL-MBF,并考虑时延情况下,对比了CL-MRC与CL-MBF的性能;3、将单用户下的两种跨层方案,引入到多用户中,结合“贪婪调度”策略,在多天线和多用户分集共同作用下,形成基于多用户的跨层方案MCL-MRC和MCL-MBF,同样在时延情况下,分析并对比了两种跨层方案的系统性能;4、在虚拟MIMO协作系统中,研究了CCL跨层方案和Seleetive-CCL跨层方案,并分别从链路是独立同分布和独立不同分布两方面,来讨论系统性能。针对以上方案和算法研究,通过MatLab进行深入的实验研究,实验结果表明了所提出CL-MRC,CL-MBF,MCL-MRC,MCL-MBF,CCL和Selective-CCL跨层方案的系统性能对比原系统有明显的改善。综上所述,本文的研究成果对于无线MIMO通信系统的性能研究领域,有一定的理论意义和应用价值。