随着社会的发展,人们对无线高速数据通信的需求与日俱增,MIMO(多输入多输出)技术已经成为最新一代无线通信系统的关键技术之一。与单用户MIMO点对点的通信不同,多用户MIMO是点对多点的通信。它不仅能提升单个链路的数据率和可靠性,还能提升整个系统的容量。在多用户MIMO的下行链路中,为了消除系统的多用户干扰,基站端需要对发送信号进行预编码。而在用户端,为了正确的接收数据,需要进行信道估计和信号检测。而系统的多用户与多天线给收发两端的信号处理增加了复杂度。如何取得性能与复杂度的折中,是算法设计的关键所在。本文的目标就是要尝试解决以上的问题。它主要涉及三个方面内容：1.提出了两种低复杂度的多用户MIMO下行链路块对角化预编码算法。这两种算法在求取预编码矩阵的过程中分别基于普遍意义迫零--格拉姆-施密特正交(GZF-GSO)运算和LQ分解,避免了传统块对角化(BD)算法中的SVD运算,降低了计算复杂度,但是在和容量上与BD算法相比没有任何损失。2.提出了两种基于分组的排序串行干扰相消检测(OSIC)算法。这两种算法都是将待检测的信号进行分组,组内采用最大似然思想减小误差,组间进行干扰消除。分析和仿真表明,这两种算法不仅抑制了传统OSIC算法中的误差传播问题,提高了检测的性能,而且在计算过程中还避免了传统OSIC算法的多次伪逆运算和信道排序,降低了复杂度。在天线数增多和高阶调制的情况下,两种算法的低复杂度优势更加明显。3.提出了一种实用的基于最小均方误差(MMSE)的信道估计算法。该算法仅利用接收信号的自相关矩阵和估计出的噪声功率即可得到信道矩阵信息,克服了传统MMSE算法需要预先知道信道的统计特性和信噪比而难以在实际系统实现的缺点。并且所提出的算法在计算复杂度上低于传统MMSE算法。仿真结果表明该算法在性能上和理想的MMSE算法非常接近。