未来无线网络中的协作中继技术能够有效的克服阴影衰落,扩大小区覆盖范围,增加系统容量以及吞吐量,使得网络能够在有限的资源以及时变的移动通信环境下为用户提供高速率大覆盖的业务环境。由于中继节点灵活便捷的部署方法,低廉的建设以及维护,良好的扩展性以及前向兼容特性,使得引入中继的未来无线网络成为一种极具竞争力的组网方案。本文针对协作中继这一当前热点,在国内外学者的研究基础上,对下一代移动通信系统中协作中继网络的MIMO技术和资源分配策略进行了深入研究,其中在基于多天线中继的中继滤波和信号处理,协作中继蜂窝网络的联合中继选择、资源分配和负载均衡以及中继网络中协作多点传输的资源分配等方面做了一系列的研究工作,主要贡献概括如下：1.针对基于多天线中继技术的小区间干扰抑制问题,首先研究了一种带有共享中继站的新型网络结构；然后基于此网络结构提出了一种两重信道分解的分析方法；并且利用该方法设计了基站预编码和中继站滤波方案；此外,还分析了中继站的功率分配方案,提出了平均功率分配和基于遗传算法的最优功率分配两种功率分配算法。2.针对基于多天线中继技术的中继滤波、信号处理和路由选择问题,首先研究了中继滤波方案,将“多发端-多中继-多收端”的复杂信道分解为多条“单发端-单中继-单收端”的平行独立信道；然后设计了中继信号处理方案对每条分解后的独立信道进行容量最优化,并且进一步分析了不同独立信道之间的中继功率分配问题；最后比较了不同的路由选择方案,提出了一种信令开销较大的最优路由方案和几种信令开销较小的次优路由选择方案。3.针对协作中继蜂窝网络的联合路由选择、资源分配和负载均衡问题,首先分析了小区簇间的同频干扰；然后研究了直跳、DF和AF三种不同传输模式的频谱效率计算问题；继而提出了一种简单有效的负载均衡方案,并建立了联合最优化模型；最后设计了基于贪婪算法的CJRRT算法以较小的复杂度求得了模型的次优解。4.针对蜂窝协作中继网络中基于小区簇的负载均衡问题,提出首先由热点小区根据本小区的业务量分布情况以及相邻小区的负载情况,动态选取相邻的非热点小区组建小区簇；然后,热点小区根据小区簇内各小区的负载情况计算转向每个非热点小区的业务量大小,使得负载均衡后热点小区的业务量低于门限值,并且整个小区簇的平均阻塞率最低；最后,热点小区以小区簇的总转移效率为目标,对小区内转移的非实时业务用户进行资源调度,以提高小区簇系统的频谱效率。5.针对蜂窝中继网络中协作多点传输的资源分配问题,提出首先由每个小区边缘用户选择参与协作多点传输的相邻小区组建小区簇,并在小区簇的每个小区内选择参与协作多点传输的中继站；其次,系统为每个小区边缘用户分配小区边缘频率资源,使小区边缘用户在所分配资源上的总吞吐量最大；最后,如果小区边缘频率资源无法满足小区边缘用户需求,并且小区中心频率资源存在剩余,则借用小区中心频率资源分配给小区边缘用户,并使得小区边缘用户在所分配资源上的总吞吐量最大。论文最后对全文进行了总结,并指出了今后的研究方向。