多基站协作预编码技术,充分利用用户有限的信道状态信息,在发送端对传输数据进行协作预编码,使系统在误码率性能、频谱效率和降低复杂度上得到了很大的改善,成为当前无线通信领域研究的热点之一。本文以消除蜂窝MIMO系统同频干扰和优化吞吐率性能为目标,对协作预编码技术进行了深入的理论研究与仿真分析,主要研究内容如下：(1)基于蜂窝多小区拓补结构,研究了传统的线性预编码技术和基于信道反馈的波束赋形预编码方案,并对线性预编码设计的迭代注水功率分配方法进行了研究,提出了改进的波束赋形方案,通过仿真验证了该方案在不同的用户数规模下,均能够达到较好的干扰抑制能力和更为稳健的吞吐率性能；(2)研究了多基站协作预编码技术,对部分协作条件下的干扰迫零技术进行了改进,通过选取不同的等效空间子信道,使邻小区同频干扰的抑制和系统吞吐率性能的提高,可以依据实际用户的服务质量要求进行折中取优；提出了基于用户上行干扰信道反馈的多基站协作块对角化方案,通过仿真验证了该方法在消除用户同频干扰信号上的优越性,且能够达到渐进最优的系统吞吐率性能,并与改进迫零方案进行了性能的比较；(3)研究了基于最大化信号泄漏噪声比的协作波束赋形策略,并且通过数据仿真验证了该方案,在任意发送信噪比条件下,通过平衡波束之间的功率分配,大大提高了系统的吞吐量,且在很宽的信噪比范围内与理想DPC方案非常接近；同时,提出了基于PMI反馈的折中策略,通过仿真展示了该折中策略在抑制边缘用户的邻小区干扰以及提高系统吞吐率性能上的优越性；(4)提出了一种基于最优化协作基站组的折中协作策略,通过最大化系统吞吐率来选择最佳的协作小区基站,同时对边缘用户的调度问题进行详细的研究,提出了基于信干噪比判决门限的边缘用户调度方法,并与传统的用户调度方式以及正比公平调度进行了比较,在此基础上通过SVD方法设计预编码,通过数据仿真,验证了该策略有效提高了系统容量的断线性能,并且以较低的算法复杂度在系统的频谱效率的提高和边缘用户的公平性之间有一个很好的折中,具有很好的实用价值。