多天线技术可以为无线系统提供空间复用增益和空间分集增益,从而提高系统的频率效率和通信链路的质量,是第四代移动通信的一项重要技术。在多天线多用户系统中,不同用户信道随机衰落,提供多用户分集增益。有效利用多用户分集,系统可以在为多用户服务的同时获得比单用户系统更高的吞吐率。多用户选择是有效利用多用户分集增益的关键问题。本文聚焦于多天线多用户系统中多用户选择问题,研究基于特定的空分多址技术的用户的选择方法和相应的有限反馈策略,提出在系统开销、计算复杂度和吞吐量上获得比较好折中的传输方案。本文对非线性Tomlinson-Harashima预编码(THP)及相应的用户选择方法进行了深入研究。THP具有更好的功率效率。在采用THP消除多天线的干扰的多天线多用户系统中,本文根据THP的特性,提出一种基于启发式Gram-Schmidt(G-S)正交化的贪婪用户选择算法(HGS-Greedy)。这种方法可以充分利用多用户分集的增益,最大化系统的吞吐率。本文算法的系统吞吐量性能非常接近最优遍历搜索的性能,THP与HGS-Greedy结合的传输方案优于迫零波束成型准正交用户选择(ZFBF-SUS)方案的性能,并且证明大用户数时,采用THP与HGS-Greedy结合的传输方案可以逼近DPC的容量界,在容量域上具有渐进最优性。同时,此算法具有很低的复杂度,具有很好实用价值。本文对正交空分多址预编码及相应的用户选择方法反馈策略进行了深入研究。实际系统设计时,基于多组正交预编码向量实现空分多址是一个很有竞争力的选择方案,其中每个用户酉速率控制方法,已经被3GPP-LTE标准接收。实际的系统中,由于资源和处理能力的限制,单小区同时接入的用户的数目比较小,我们研究了小用户数目系统中的一种新的正交空分多址(SDMA)预编码方法,这种方案在完善的信道信息条件下,中低信噪比区间的性能优于迫零空分多址(ZF-SDMA)方法。实际系统,获取完整的信道状态信息,需要的开销是巨大的,研究表明这也不是必要的。采用频分双工(FDD)模式的实际系统需要采用有限反馈技术获取信道状态信息。在小用户数目系统中,我们根据新的正交SDMA预编码方法的特点,提出了一种的新的用户反馈选择算法,推导出其需要反馈的信道质量信息(CQI)的表达式,给出相应的反馈策略和用户选择方法。该方案的性能基于ZF-SDMA有限反馈用户选择方案,为实际系统的设计提供了更好的参考。