为提高频谱效率,下一代蜂窝系统采用正交频分多址接入技术(OFDMA)技术,频率复用因子为1,小区内干扰可以忽略,干扰大部分来自于其他小区,即系统干扰主要为小区间干扰(ICI)。为了进一步提高系统吞吐量和小区边缘用户的性能,降低ICI成为一个重要的研究课题。协作多点传输／接收技术(CoMP)是第四代蜂窝移动通信系统中的关键技术之一。在下行链路中,多个小区协作表现为协作的基站通过对信道状态信息(CSI)和用户数据信息不同程度的共享,将传统意义上的干扰“转化”为有用信号,多个基站共同向用户传输数据或者协作波束成形进行干扰协调。多小区协作是以协作基站间共享CSI和用户数据为条件的,会带来巨大的信令开销：反馈开销和无线回传开销。在设计预编码算法时,需要在算法所带来的性能增益和信令开销之间做出合适的折中。同时,要考虑实际系统中共享信息的获取,即用户向基站的反馈信道、基站之间交换信息的无线回传链路、信道互易性、信道估计误差等因素的局限性。所以,探索能降低CSI共享的分布式协作算法,研究有限反馈下的小区协作性能、规律有重要的现实意义。鉴于以上因素,论文围绕蜂窝系统中多小区协作预编码做了深入的研究,主要从以下几个方面展开：多小区联合传输预编码算法、分布式协作预编码算法、基于有限反馈的多小区协作预编码。作为多小区协作的基础,论文详细介绍CoMP的分类,蜂窝小区的拓扑结构,多小区协作的信道模型。根据基站是否与中央处理单元相连,分为集中式协作和分布式协作；根据是否全部基站参与协作,分为完全协作和不完全协作；根据是否共享用户数据,分为协作多小区传输(基站联合传输)和协作单小区传输(基站协作波束成形／协作调度)。仿真中往往用到线形或者六边形的维纳模型来模拟蜂窝系统,单小区只需要考虑小规模衰落,多小区信道还要考虑大规模衰落,协作多小区传输和协作单小区传输的信道对应不同的表达式。论文主要内容和贡献如下：(1)将单小区中的预编码算法推广到多小区,并比较算法的性能。多个小区基站通过CSI和用户数据信息的共享,实现多基站协作传输,将传统意义上的干扰转化为对用户有用的信号,从而提高频谱效率,极大改善小区边缘用户的性能。块对角(BD)算法通过在干扰信道的零空间上设计合适的预编码向量,完全抵消干扰。将BD算法用于多小区联合传输,从空间维的角度剖析了其干扰抵消和宏分集增益的工作原理,并将其与迫零(ZF)算法,最小均方误差(MMSE)算法,时分多址(TDMA)以及单用户特征值波束成形算法比较,分析了各种算法的优劣。同时将协作BD算法与非协作BD算法比较。仿真结果表明BD算法优于上述预编码算法,协作传输优于非协作传输。(2)提出了基于粒子群算法的线性预编码算法用于协作多小区传输。粒子群优化(PSO)理论比较简单,易于实现。另外,PSO有很快的收敛速度,并且,对搜索空间和梯度信息无特殊的要求。在多小区协作传输环境中,我们的问题常常转化为在总功率约束或者每基站功率约束下,最大化频谱效率或者系统容量。目标函数中,山于预编码向量的耦合,目标函数的凸性一般很难确定,并且,这往往是一个非凸的优化问题。采用PSO算法,各个用户独立在搜索空间搜索自身最优的预编码向量。介绍了粒子群算法的理论及流程,分析了其收敛性,推导协作多小区传输的粒子群优化算法的适应值,每个用户根据适应值函数搜索各自的预编码向量。仿真表明,该算法优于ZF和MMSE算法。(3)无线回传开销和反馈开销过大是基站协作应用于实际蜂窝通信系统中的瓶颈之一。为了能够减少回传开销和预编码复杂度,同时还能进行干扰协调,提出基于信漏噪比(SLNR)的分布式协作多小区传输预编码算法。基于SLNR最大化的预编码设计仅仅需要本地的信道状态信息进行分布式编码,协作传输的基站不但有效减少了无线回传开销,同时由于共享用户的数据,还能得到基站协作带来的性能提高。将协作的分布式SLNR预编码策略与完全协作的迫零(ZF)算法和完全分布式的SLNR算法比较,由仿真可以看到该算法在开销和性能之间取得了良好的折中。(4)提出有限反馈时基于干扰清零算法(ICIN)的协作单小区传输预编码算法。在ICIN算法的基础上,考虑信道RVQ量化带来的速率损耗,并得出使损率损耗最小化的自适应反馈比特分配方案闭合表达式。另外,分析表明每个用户的总反馈比特数可以按照一定规律变化从而保持恒定的速率损耗。仿真表明,该比特分配方法优于等比特分配。(5)提出了基于SLNR最大化的分布式协作单小区传输预编码算法。该算法仅要求协作基站反馈干扰信道的CSI,不需要用户数据共享。SLNR在“自私”的特征值波束成形(EBF)和“无私”的ICIN两种算法间取得了良好的折中。为了有效的利用反馈资源,在随机量化信道的情况下,推导了SLNR算法下速率损耗的表达式,并且用穷举搜索找到了最小化速率损耗的最优解。仿真表明,比特应该根据期望信号和干扰信号的强度变化自适应的改变。