在瞬息万变的信息时代,为了解决移动用户需求的高数据传输速率和频谱资源枯竭之间的矛盾,国际标准化组织第三代合作伙伴计划(The3rd Generation Partnership Project,3GPP)展开了对3G移动通信技术的长期演进(Long Term Evolution,LTE)的标准化工作.为了满足4G技术所要求的资源利用率和传输速率,3GPP又开展了从LTE到LTE-A的平滑演进。多输入多输出(Multiple-user multiple-input and multiple-output, MU-MIMO)传输方案是LTE-A中一项最有潜力的技术之一,可以提供额外的频谱效率和小区容量。随着增强型多用户多输入多输出(Enhanced MIMO)的引入,其对于解决频谱资源利用率来说无疑是十分重要的。LTE-A中有多个传输模式(Transmission Mode,TM)支持MU-MIMO传输,也有很多专家、学者致力于研究下行MU-MIMO接收机的设计。由于低分辨率的预编码码本和低精度的信道状态信息(Channel State Information,CSI),所以共同调度的用户设备(User Equipment,UE)之间的干扰是无法避免的。而在MU-MIMO调度中,由基站决定UE的传输方式,而UE无法获知同时同频传输的其他UE的编码调制信息,这对干扰消除带来了难题。本文将对这两个问题进行研究,并提出相对传统方案更优的算法,主要工作如下：第一,通过分析预编码机制,提出了基于预编码的MU-MIMO调度算法。算法思想是：对于单流传输,将信道相关性低的UE调度到同时同频传输；对于多流传输,在MU-MIMO调度中的UE侧使用串行干扰消除(Successive Interference Cancellation,SIC)策略,逐次消除干扰。在这个过程中,由于预编码的码本极为有限,仍然不能完全消除干扰。第二MU-MIMO接收机设计,也是本文主要的研究目标。通过结合干扰调制方式估计与最大似然(Max-Log-Likelihood,ML)法则,本文提出了一种低复杂度的下行MU-MIMO接收机。考虑剑ML法则的复杂度很大,本文建议预先估计干扰信号的调制方式。在此前提下,本文引入了一种简化方法,称为查表法(Table Look-up Scheme,TLS)。通过理论公式推导,文章提取出了一部分先验信息,可以通过迭代仿真来获取。然后,本文讨论了TLS的必要性,并根据切比雪夫弱大数定理给出了相关的证明来说明其合理性。最后,文章展示了MU-MIMO接收机在2用户调度场景下的接收性能。仿真结果表明我们的TLS-ML法则相较于其他一般的接收机有在复杂度和接收性能上都有了显著的提升。