协同通信技术通过多跳或多点协作，充分整合、利用网络中的无线资源，提高频谱效率，扩大网络覆盖。但是由于增加了新的网元和通信机制，网络中的资源扩充到时域、频域、空域、功率、节点、天线等多个维度。因此本文从系统级的角度研究了在无线协同通信网络中的无线资源管理和优化。　　 第一，本文首先验证在网络中采用多跳传输的可行性。分别在宏蜂窝、曼哈顿城区和室内场景中研究中继网络部署方案，并重点在室内场景中研究中继部署的位置、数量及其工作模式。针对复杂的室内环境，提出一种环境建模方法；提出一种中继网络部署的研究及仿真方案：1.确定与实际环境相符合的模型参数，并预测其系统性能要求；2.其次根据模型及性能需求，设计并仿真评估得到可行的接入节点(Access Point，AP)基本部署方案；3.微调AP的位置，进一步提高系统容量，并完成网络部署。此外，本文分析了中继网络中的时延特性，通过理论分析和数值计算，认为中继网络可以通过合理的无线资源管理函数和MAC层函数等方式保证实时业务的QoS。　　 第二，针对引入typeⅠ型中继后的复杂干扰情况，本文研究了OFDM蜂窝中继网络中的资源复用与干扰抑制技术。分析得到了typeⅠ型OFDM-中继网络中接入链路上的干扰模型：8％的直传用户受限于中继干扰，而绝大多数中继用户受限于基站(evolved Node B，eNB)干扰。继而提出基于信噪比干扰比协调的频率划分策略：提出干扰比因子RI描述干扰模型；根据用户的SINR和RI将所有用户分为3个集合；根据三个用户集合的大小，在第二时隙上分配正交的频率，并将第一时隙上满足eNB←→RN链路需求后剩余的频率资源分配给不可复用的直传用户集合；针对不同的干扰受限系统提出扩展方案。分别在WINNER场景和LTE-A场景下仿真评估本文提出的算法，仿真结果表明该算法可以显著提升频谱效率，并改善数据包的接收SINR。　　 第三，针对混合多业务的不同QoS需求和MIMO-中继网络中的传输特性变化，本文提出基于效用函数的自适应调度算法(UBASA)。设计了适用于MIMO-中继网络中多业务的效用函数，并引入权重因子w和ratio以区分用户类型和保证业务QoS。推导在给定子载波、空间子信道和用户的情况下，混和多业务的比特分配问题(定理4-1和准则4-1)，通过定理4-2得到多载波多业务的调度算法4-1及其次优算法。仿真分析证明，UBASA算法可以有效地满足混合多业务的QoS需求，而在系统频谱效率性能方面，相比MCI算法有一定的损失；UBASA的次优方案可以得到与UBASA算法非常相近的性能，而计算复杂度却大大降低。因此在未来多用户-MIMO-Relay网络中，UBASA次优策略为推荐的混合多业务调度算法。　　 第四，首先针对单用户-协作多点传输(Single User-CoordinatedMultipoint，SU-CoMP)中可能存在的资源浪费，提出动态联合协作集选择和资源分配算法：处理单元(Processing Unit，PU)通过算法5-1，充分考虑协作小区的负载和边缘用户得到的协作增益，根据量化后的系统协作增益为多RB上的所有CoMP请求选择协作小区，使小区选择有据可依，并解决可能出现的请求碰撞；同时该算法提高了轻负载小区接受CoMP请求的可能性，从而起到系统负载均衡的作用。仿真发现该算法能够在提升边缘用户性能的同时，提升系统总吞吐量，改善用户公平性情况。其次，在MU-CoMP场景下的协作小区和配对用户选择中提出“候选配对用户集合”概念，缩小需要测量、反馈的UE范围，从而减少空口的反馈和小区间的信令交互开销；针对具有不同功能的小区，分别给出了集中式和分布式选择处理流程，并提供两种计算候选配对用户集合的方法；提出了扩展算法Cell-based方案以进一步降低信令和反馈开销。仿真结果显示，本文提出的多种算法，包括Cell-based方案，与Non-CoMP系统相比，均能够大幅提升小区平均频谱效率和边缘频谱效率；而与全信道方法相比，提出的方案可提供相似的性能，却显著降低backhaul和空口的信令与反馈开销。　　 第五，针对边缘用户可能经历的多种CoMP传输模式，本文在分析各模式下的接收信号、性能增益和计算复杂度之后，根据边缘用户的传输质量和业务传输要求等提出了基于半静态用户分组的CoMP模式管理算法，即在用户组内进行传输模式的选择和切换，具体包括：1.根据统计信道信息进行半静态的用户分组；2.请求小区根据统计信道信息确定边缘用户的传输模式并告知协作小区；3.协作小区确定配对用户的反馈策略，并传输数据。同时，本算法为配对用户提供了相应的反馈策略：只有在相关－多用户－联合传输模式下或在基站请求下才反馈与请求小区间的瞬时信道信息；否则仅测量上报统计信道信息。通过仿真发现，本文提出的算法可以有效地保障边缘用户的传输质量，并为小区平均频谱效率提供增益。同时，也将减少系统内进行CoMP相关测量和计算的小区与用户数目，并降低配对用户的反馈开销。　　 最后总结全文。