随着越来越多的互联网和多媒体应用融入到网络，移动端用户数量的不断增大，要求下一代移动通信系统能够为用户提供更快速的数据传输和优越的服务质量。多用户多输入多输出(Multiple Input Multiple Output,MIMO)技术的发展使不断满足用户的需求成为可能。相对于单用户MIMO技术，多用户MIMO技术不仅能提供复用增益，还能带来多用户增益。但是一系列的问题随之产生，如共道干扰(CCI)问题和用户过载问题。预编码技术可以很好地解决CCI问题，而Tomlinson-Harashima Precoding(THP)预编码技术则是其中的一种非常有效的消除CCI的预编码方法。用户调度技术可以有效地解决用户过载问题。本论文对理想信道下多用户MIMO系统中的THP预编码技术和基于THP预编码的用户调度技术展开研究。
　　首先，本文从系统模型出发，对几种经典的预编码算法，包括线性预编码中的ZF预编码、MMSE预编码、BD预编码、S-GMI预编码和非线性THP预编码进行讨论研究。详细介绍了基于扩展矩阵的MMSE-THP预编码算法，该算法与信道矩阵求逆的MMSE-THP预编码算法相比，能够在保持系统误码率性能不变的同时降低计算复杂度。
　　其次，本文设计了多模式THP结构模型。在发送端设计多个可供选择的发送模式，以最小误差选择标准选择出最合适的发送模式进行信号发送。在该结构模型的基础上，结合基于扩展矩阵的MMSE-THP预编码算法，提出了基于扩展矩阵的多模式MP-MMSE-THP预编码算法，该算法随着选择模式的增多系统误码率性能随之增强，但是计算复杂度也会变大，对系统误码率性能和计算复杂度进行折中考虑，需要选择合适的发送模式数。仿真结果表明，该算法与其它同类算法相比，能够很好地提高系统的误码率性能。
　　最后，本文提出了一种基于最小误码率的THP预编码用户调度算法，通过运用本算法可以提高通信系统的误码率性能。同时将本算法和多模式THP结构进行联合优化。仿真结果表明，该优化算法比基于最小误码率的THP预编码用户调度算法有更好的性能改善。