随着蜂窝无线通信、因特网和多媒体业务的迅速发展,世界范围内无线通信的容量需求在迅速增长。以多输入多输出(MIMO)系统为代表的空时处理技术被认为是4G或B3G的核心技术之一。采用空时编码的MIMO系统能适用于Internet和多媒体业务,并且可以动态地增加覆盖范围和可靠性。目前,用户对无线通信的速率和服务质量提出了越来越高的要求,而可利用的无线频谱是有限的,另一方面,无线信道的多径传播特性和时变特性会对其中传输的信号带来比较大的伤害。MIMO技术因为能大幅度提高无线通信系统的频谱效率和链路传输可靠性而得到了越来越多的关注。在此背景下,本论文以下行多用户MIMO系统和分布式MIMO系统为研究平台,研究了对应的系统模型和传输策略。针对下行多用户多天线系统(MU-MIMO)的资源分配和用户调度,本文提出了一种基于遗传算法(GA)的多用户比例公平调度算法。并通过在初始群体中加入具有优秀基因的个体并保持其基因稳定性,加快了遗传算法的收敛性。基站端采用块对角化预编码机制来消除用户间干扰,并在保证用户间速率比例公平的前提下最大化系统吞吐量,在同一时刻选择最优用户集来传输。同时本文还分析了信道反馈错误对该系统的影响。仿真与分析表明本文提出的基本算法与改进算法在公平性和系统的吞吐量方面取得了较好的折中,同时算法复杂度比较低。为了消除多用户MIMO下行系统的多用户间干扰以及改进系统的误码率性能,本文研究了块对角化预编码与几何均值分解的联合方案(BD-GMD)。针对BD-GMD系统的资源分配和用户调度,对比了等功率分配和注水算法对系统的影响,并基于系统容量最大化,提出了一种根据用户信道的子空间特性的低复杂度的用户调度算法。此外,对比分析了穷举搜索算法和传统的贪婪算法。数值仿真结果表明,本文所提出的基于正交投影的多用户调度算法充在保证系统容量的同时降低了算法复杂度。同时针对用户间的公平性,本文并提出了一种新的比例公平调度算法。该算法利用一个新的参数来表示用户过去的信道状态信息,根据当前和过去的信道状态信息可以更好的调度多用户并同时保证用户间公平性。为了消除下行多用户MIMO系统中的共信道干扰,并且最大化和速率,提出了基于斜投影的预编码的系统模型,并在此系统模型上利用注水功率分配算法推导出了该系统容量的闭式表达式;通过仿真描述了在多用户MIMO系统中基于斜投影的预编码和基于正交投影的BD-GMD联合预编码的系统容量的差别。在低信噪比时,基于斜投影的预编码的容量性能要优于BD-GMD系统;而在高信噪比时,则正好相反,BD-GMD系统要优于基于斜投影的系统容量。通过仿真证明,当系统信道条件比较差时,基于斜投影的预编码可以提供更好的系统性能。分布式天线系统(DAS)由于其具有更大的覆盖范围,较好的功率效率,以及更高的系统容量在近年来备受关注,而MIMO技术和分布式天线系统相结合的分布式MIMO系统更是成为研究热点,但很多文献都只是基于以上几个方面进行分析,而没有考虑多用户分集。本文将传统MIMO系统中的块对角化预编码应用到分布式MIMO系统中,以该算法为基础提出了一种新的多用户调度方案,从多用户分集的角度研究了下行分布式MIMO系统的容量性能。