多小区协作能够有效的消除小区间干扰,提升小区边缘用户的速率和用户服务的公平性。参与协作的基站之间通过进行交互信道状态信息(Channel State Information, CSI)以及用户的数据,不仅可以消除干扰,还可以有效的利用干扰,从而提升系统的吞吐量。协作的基站可以在上行链路中进行联合译码,在下行链路中进行联合预编码。从理论上讲,如果基站之间能够完美地进行数据和信息交互,干扰可以完全消除掉。但是实际应用多小区技术时,协作基站之间需要部署回程链路来完成信道状态信息和数据的交互。因为基站之间进行信息交互的回程链路容量或者时延并不是完美的,所以实际多小区协作技术会受到回程链路容量以及时延的约束。针对多小区协作技术在实际部署中回程链路的容量受约束问题,本文研究在回程链路容量受限下多小区协作方案设计、基站量化方案选择以及中心处理端联合检测性能分析等相关问题,主要内容包括：1)研究回程链路容量受限下的多小区协作方案设计问题。在两用户两基站场景下,考虑基站具有一定的译码能力,研究如何分配基站译码和中心处理节点联合译码来最大化系统用户速率和。在研究中,用户端需要将传输信息分为基站译码信息和联合译码信息,通过叠加编码形成发射信号。进而通过无线信道传送到基站,基站先对用户基站译码信息进行译码,然后将剩下的接收信号压缩转发给中心处理节点。中心处理节点先对接收信号进行解压缩再对用户信息进行联合译码。研究发现,提出的方案能够在回程链路容量受约束下提升系统用户速率和。进一步,基于现在用户请求信息内容的相同与不同,将用户在基站译码信息进一步细化分为公信息和私信息两种,公信息指用户发射的相同信息,私信息是指用户发射的不同信息。同样研究如何分配公信息、私信息和联合译码信息来最大化系统用户速率和。研究发现引入公信息和私信息可以提升基站的译码效率,从而进一步提升回程链路容量受约束下系统性能。另外,本文在衡量方案性能时通过比较可达速率域,获得该速率域的传统方法是基于穷搜法。而本论文提出一种优化算法得到可达速率域的边界,大大降低穷搜的算法复杂度。2)研究基站量化转发方案中量化方案选择的问题。由于回程链路容量受约束,基站需要对接收信号进行量化后再转发给中心处理节点进行联合译码。本文考虑两种不同情况：用户有信干噪比(SINR)需求约束和用户无SINR需求约束。论文分析了多用户多基站场景下用户输入信号功率和基站量化误差的协方差之间的关系。在用户无SINR需求约束的情况下,本文提出联合优化用户输入信号功率和基站量化误差协方差来最大化系统加权的用户速率和。最终提出一种算法解决该非凸的优化问题并得到了全局最优解。而当用户有SINR需求约束时,研究发现用户输入信号功率与基站量化误差协方差增加了耦合约束。通过对两者之间的关系进行分析,得到满足用户SINR需求约束下的基站量化误差协方差的上下界。相关分析和结果给实际部署多小区协作技术时基站量化方案的选取具有指导意义。3)研究回程链路容量受约束下多小区协作中联合检测的性能。本文主要考虑协作规模与检测性能的关系,在小规模协作下给出各种线性检测方案的检测矩阵。由于受到回程链路容量约束的影响,检测矩阵需要满足量化误差协方差矩阵的约束。通过比较各种检测方案的系统用户遍历速率和,可以看到在回程链路容量受约束下,不断增加用户端信噪比(SNR)并不能带来用户遍历速率和的无限增加。而在大规模协作场景下,本文给出平均每个用户速率的极限与协作基站数量的函数关系。在中心处理节点知道完美的CSI下,利用ZF检测的平均每个用户速率随着协作基站数量增加反而会降低。而其他方案以及结合SIC的各种检测方案随着协作规模的增加,平均每个用户的速率会不断增加,但在较多数量的基站协作下依分布收敛于固定值。当考虑中心处理节点不具有完美CSI时,利用MRC检测会存在最优的协作基站数量。