预编码技术作为移动通信系统中不可或缺的关键技术,在未来第五代(The Fifth Generation,5G)通信系统中也将扮演着重要角色。相比于线性预编码,非线性预编码有着更为优秀的性能。然而绝大多数的研究都是在假设发射端已知完美的信道状态信息(Channel State Information,CSI)的理想条件下进行的,很少有文献提到在发射端的CSI不完美以及信道估计有误差的实际情况中非线性预编码的性能如何。为了更好地将非线性预编码技术应用到实际中,本文对实际情况下非线性预编码的性能进行了探究,分析了不完美的CSI以及信道估计误差对非线性预编码的影响,并提出了一种新型的非线性预编码改进方案。首先,本文简单介绍了多输入多输出(Multiple Input Multiple Output,MIMO)系统模型,并分析了单用户MIMO(Single User Multiple Input Multiple Output,SUMIMO)与多用户MIMO(Multiple User Multiple Input Multiple Output,MU-MIMO)的区别与联系。除此以外,本文还介绍了几种典型的线性预编码,并对他们的性能进行了仿真验证与分析。然后,本文深入研究了Tomlinson-Harashima预编码(Tomlinson-Harashima Precoding,THP)与矢量扰动(Vector Perturbation,VP)预编码这两种典型的非线性预编码技术,并对他们的性能进行了仿真验证与分析。此外,本文还给出了现有的几种非线性预编码的改进算法与仿真评估。接着,参照第三代合作伙伴项目(Third-Generation Partnership Project,3GPP)Release-15协议,本文设计并实现了5G下行链路仿真平台。该平台采用模块化设计,具有高度的灵活性与扩展性。在介绍了该平台的仿真流程以后,本文分析了每个的模块功能,然后重点研究了LDPC编译码、软解调技术、预编码技术、5G中解调参考信号(Demodulation Reference Signal,DMRS)的结构、信道估计以及常见的均衡器等。最后,本文在上述仿真平台上对非线性预编码在实际系统中的性能进行了探究,并分析了影响非线性预编码性能的非理想因素。其次本文针对非线性预编码在实际系统中存在的问题,提出了一种采用新型均衡器的VP预编码方案,仿真证明所提方案能有效提升实际系统中VP预编码的性能。