多天线技术是一项提高频谱效率和通信链路质量的移动通信关键技术。多天线多用户系统中的用户选择是充分利用多用户分集提高系统性能的一项重要技术。本文分析了多种多天线系统中的用户选择问题,提出了相应的用户选择算法。本文首先综述了移动通信技术的需求及发展,分析了多天线多用户技术的研究现状。介绍了多天线信道不同建模方法,给出了单用户和多用户的多天线系统容量。并讨论了多天线系统中的多用户分集技术。然后本文提出了基于准正交码字的上行多天线多用户接入系统,使得系统能同时接入的最大用户数为接收天线数和扩频码长的乘积;同时提出了改进的产生准正交的内插Walsh码字的方法,使得可用的扩频码字数量大量增加,解决了所提系统需要大量码字的问题;分析了该接入系统的有效性和容量性能:提出了基于用户间信道相关性和码字间相关性的两种码字分配和多用户选择方法,仿真结果显示所提算法能有效的提高系统的吞吐量。接着本文分析了块对角化系统的容量,引入启发式的正交化方法和用户间信道相关性的估计,提出了块对角化系统中改进的基于范数的多用户选择方法,分析比较了算法的性能和计算复杂度。仿真表明该改进算法在损失很小的容量的情况下,计算复杂度能得到明显的降低。该改进算法给出了容量和计算复杂度的有效折中方法。随后本文引入了差分酉空时调制技术,分析了差分酉空时调制的性能和酉阵生成方法。提出了差分酉空时调制和块对角化技术相结合的系统,克服了传统多用户块对角化系统的用户端需要知道和其他用户相关的接收矩阵的问题,提出了时变信道条件下容量有效估计方法和容量预留策略,并提出了基于容量估计的多用户选择和基于容量预留的自适应调制算法,仿真表明所提方法能够充分利用多用户分集,提高系统性能。最后本文分析了认知无线电技术在蜂窝小区中的应用中存在的问题,将已有频谱通信方式和认知无线电技术相结合,提出了一种基于已有频谱通信方式信令传输的认知无线电蜂窝通信系统。给出了多天线多用户的认知无线蜂窝系统模型,并给出了将多径信道模型扩展以适应认知无线电蜂窝系统的信道模型。研究了用户信道反馈和基站多用户选择问题,提出了基于反馈门限设置的多用户选择方法。仿真和分析该用户选择算法能够提高认知通信方式的可靠性和吞吐量。本文提出的多种用户选择算法能够适应不同的MIMO多用户系统的特点,充分利用多用户分集增益,提高系统性能,减小实现的复杂度。本文的研究是MIMO多用户分集技术研究中有益的补充和尝试。