用户越来越高的数据传输需求,推进了移动通信技术的发展;此外,随着互联网技术的高速发展,智能终端在日常生活中得到了普及和应用。因而,提升下行系统性能以及简化接收机复杂度是移动通信发展的重要方向。而预编码通过在发送端进行预处理,可以有效降低接收端复杂度,从而成为该领域研究热点之一。本文针对多输入多输出（Multiple-Input Multiple-Output,MIMO）下行通信系统中的新型预编码技术进行研究。为了优化系统性能,一方面考虑实际时延对预编码性能的影响,提出了更加鲁棒的预编码系统,并搭建了硬件测试系统进行实验验证;另一方面研究了多用户预编码方案,对基于空时线性编码的预编码方案进行了分析,并发展出性能更优的新型方案。本文具体研究内容如下:首先,本文介绍了MIMO技术的研究背景和预编码技术,以及空时线性编码技术的研究现状。其次,本文对模代数预编码（Tomlinson-Harashima Precoding,THP）和矢量扰动（Vector Perturbation,VP）预编码技术进行了详细介绍,并且通过仿真比较基于不同矩阵分解的THP技术以及不同扰动矢量搜索算法的VP预编码技术。此外分析了均衡器对非线性预编码技术的影响,通过计算机仿真证明了均衡器对非线性预编码性能的恶化。第三,本文针对非线性预编码对传输时延敏感的问题,提出了一种基于时延补偿的VP系统,通过优化发送端结构使得系统性能提升,同时还降低了复杂度,搭建了硬件测试系统,对所提方案的性能进行实验验证。第四,本文对多用户预编码方案进行研究,研究了基于空时线性编码的多用户预编码方案,并利用空时线性编码这种新型分集技术获取性能增益。进而为了改善系统性能,提出了一种基于空时线性编码的新型多用户预编码方案;还提出一种基于取模前馈信息的增强方案,进一步提升了系统性能。最后,本文对主要研究内容和贡献进行了总结。