随着科技的进步,人们对信息交互的体验要求越来越高,也就是通信系统中所说的有效性和可靠性,正如5G(5^th-generation)未来愿景——信息随心至,万物触手及。而多输入多输出（Multiple Input Multiple Output,MIMO）技术正是5G中的关键突破技术,MIMO系统在不增加频谱消耗的前提下,利用其收发两端多根天线的特点所带来的空间复用增益和分集增益能够对系统的信道容量增加并保障信号可靠地传输。而多用户MIMO技术可以实现与多个用户同时进行信息传递,大大提高了频谱利用效率,多用户MIMO系统需要在发射端进行预编码或在接收端进行检测以清除掉用户间和数据流之间的干扰。本文主要研究多用户MIMO系统广播阶段的预编码与检测技术,在信号发射端采用预编码技术用于消除用户间干扰,在各个用户接收端进行检测操作用于消除多天线间的数据流干扰。在得知完全信道状态信息（Channel State Information,CSI）的情况下,多用户广播阶段的检测技术与单用户检测技术没有区别,所以本文对单用户MIMO系统的检测技术进行了深入研究。本文主要研究内容如下:（1）研究了单用户MIMO和多用户MIMO系统模型及容量特性。（2）研究了MIMO系统中的若干检测技术。同时,深入研究了格基规约技术中的LLL（Lenstra-Lenstra-Lovasz）算法。综合考虑,将LLL算法应用于最小均方误差检测（Minimum Mean Square Error,MMSE）检测方案中,由于LLL算法可以在另外一个空间系统里提高信道矩阵的正交性,所以LLL-MMSE检测技术具有较好性能。（3）研究了MIMO系统预编码技术,并从单用户和多用户两个角度展开论述。在多用户MIMO系统广播阶段,利用MMSE准则优化扰动矢量,与QR分解的块对角化预编码（Block Diagonalization,BD）相结合,提出了BD-MMSE-VP编码算法,提高了系统的可靠性,降低了比特误码率（Bit Error Rate,BER）。