在蜂窝移动通信系统的发展过程中，网络架构的演进和传输技术的进步是提高系统性能的重要手段，目前，全球主要的标准化组织都针对上述两项内容展开了广泛的研究。我国提出的C-RAN架构是未来系统中“网络功能虚拟化”的一种重要形式，并且该架构与协作多点传输技术（CoMP）有天然的契合点，二者的结合可为提高网络性能发挥出巨大作用。因此，针对C-RAN架构下的CoMP技术展开研究对提高网络运行效率及频谱利用率，进一步改善蜂窝移动通信系统的性能具有重要意义。本文依托C-RAN网络架构，重点围绕CoMP系统中的下行协作集选择和上行用户调度问题展开了较深入的研究。首先，探讨了 C-RAN架构下的多小区干扰模型，根据干扰信号来源，建立了同站多小区干扰模型和异站多小区干扰模型，在此基础上，以抑制/消除干扰，有效提升系统性能为目的，对下行 CoMP的同站和异站协集选择方法，以及上行CoMP的用户分组与调度方法进行了重点研究。　　本研究主要内容包括：⑴在同站多小区干扰模型下，针对现有面向基站的协作集选择算法难以充分挖掘大量天线带来的性能增益，导致系统资源利用率不高的问题，提出一种面向天线的协作集双向选择机制。该机制兼顾用户传输需求和网络处理能力，首先由用户终端选择期望的协作RRU集合（待选协作集），并将其连同对应的信道状态信息反馈给网络侧；然后网络侧综合平衡所有用户的传输需求和网络处理能力，在各用户提交的待选协作集中选取适当的RRU，并以天线为单位为用户生成终选协作集。复杂度分析表明，所提机制能够有效降低用户的反馈量，缩小协作集选择的范围，降低后续算法的复杂度。同时，为了有效降低同站干扰的影响，结合预编码技术，提出一种SLNR准则下基于双向选择机制的协作集选择算法。该算法将待选协作集中各 RRU的天线视作基本的选择单位，在网络侧采用SLNR准则为每个服务用户选择不同的发送天线，以此来合理规划共用相同信道的用户，并对发射信号进行SLNR预编码，从而有效降低干扰。仿真结果表明，所提算法能够有效提高频谱利用率，对系统性能有明显的改善作用。⑵在异站多小区干扰模型下，干扰同时来自异站小区和同站小区。受网络结构限制，来自异站小区的干扰无法在单个基站内实现消除。为解决该问题，采用分级消除的思路，提出一种干扰对齐和SLNR预编码级联（IA-SLNR）算法。该算法首先采用干扰对齐方法消除异站干扰，然后再与SLNR预编码级联，降低同站干扰，从而实现异站多小区间的用户干扰抑制。针对基站间的负载平衡问题，设计出一种协商式负载均衡机制，并在此基础上，提出一种负载均衡机制下基于IA-SLNR的协作集选择算法。该算法根据用户提交的待选协作集，结合各基站的负载状态，通过协商对各基站负载进行均衡，同时完成终选集的生成，最后利用IA-SLNR算法对终选集进行抑制干扰。仿真结果表明，该级联算法可有效抑制异站小区间边缘用户的干扰，提高系统容量和误码性能。⑶在上行CoMP系统中，针对现有用户配对算法在每个传输时隙中仅选择两个用户进行数据传输以及对天线资源利用不够充分的问题，提出一种最小—最大准则下的自适应k-means用户分组算法。该算法支持多用户同时传输，首先根据信道状态信息等用户属性，挑选差异最大的两个用户创建初始分组；然后根据用户属性，依据最小—最大准则，确定用户分组的数量，并选出每组的中心；最后，采用k-means聚类方法，根据用户的不同属性及属性权重，计算用户间的加权距离，进而根据加权距离对用户实施分组。为了进一步保证用户调度的公平性，提出一种基于用户分组的双比例公平调度算法。该算法以用户组和用户的平均传输速率为衡量标准，首先对用户组按比例公平进行调度，选择当前传输时隙中可进行传输的用户组，再对组内的用户进行比例公平调度，选择最终进行传输的用户。算法中，用户分组为各组用户间的弱相关性提供了保证，同时减少了比例公平调度时的用户数量，降低了复杂度；比例公平调度降低了用户由于信道质量差而无法得到调度的概率，改善了用户的服务质量。仿真结果表明，所提算法对提高频谱利用率、提升系统上行性能具有较好的效果。