随着小区中用户的不断增加,多用户多输入多输出（MU-MIMO）的技术应用愈加广泛。与单一天线系统相比较,它的优势在于,更高的频谱利用率和信道容量,有效降低接收端的复杂度,促进功率在用户之间的公平分配。因为用户数的增加,使得信道干扰与用户干扰很大程度上降低系统的性能,提升了系统的开销成本。针对上述问题,本文进行了如下研究:（1）从单用户MIMO系统开始,阐述系统的传输模型,系统运用的分集技术和复用技术,针对信道状态信息的获取准确与否,重点研究在MIMO系统当中的预编码技术及其算法,提升信道容量和频谱利用率。（2）一位预编码支持在基站（BS）使用1比特数模转换器（DACs）,可为大规模MU-MIMO系统显著节省硬件成本和功耗。针对单天线和多天线移动台的增强接收处理问题,利用仿真非凸优化问题中的嵌入结构,基于交替最小化和含均衡约束、近似最大似然检测、最小均方误差等方法,提出了基于一位分辨率DACs的MMSE-ERP预编码。仿真结果表明,MMSE-ERP预编码与对照的一位预编码相比,可显著提高接收端的接收和处理能力。（3）在大规模天线阵列的系统上,若信号具有恒定的包络特性,即具有恒定的幅度值,其幅度值与信道实现方式和所发送的信息符号无关。在大规模天线阵列系统中,硬件复杂性和功耗是限制因素,每个天线元件都需要专用的硬件组件。这些元件就包括了DACs,其复杂度随分辨率增加而指数级增加。基于配备了低分辨率DACs的MU-MIMO系统,与正交频分复用（OFDM）的技术相结合,基于NP-hard的混合离散连续最小二乘法优化方法,提出恒定包络符号级预编码（CESLP）预编码。仿真表明,该方案仅使用分辨率几位的DACs,仍能实现与理想的无限分辨率DACs的CESLP预编码非常接近的性能,大大降低了系统的开销成本。