随着近十几年来移动通信的高速发展,用户数据呈现爆炸式增长。高数据速率、低时延已经成为第五代(the Fifth Generation,5G)移动通信技术需要迫切满足的需求。为了满足这些需求,5G异构密集协作通信网络应运而生,其以分层、异构、协作为特点,相对传统网络能提供更高的数据速率和频谱利用率。由于网络中小基站分布密集,回传链路的部署需要依靠有线与无线相结合,而无线回传由于其开放的传播环境,性能会受到一定程度的制约,从而影响异构密集协作网络的整体性能。现如今大量的研究工作是基于理想回传研究异构密集协作网络的性能和相应的资源管理方式,而实际应用中,考虑到非理想回传在容量和时延方面的制约,5G异构密集协作通信网络中的资源管理及优化有待进一步研究。与此同时,在5G异构密集协作网络中,用户的业务需求呈现多样性,增加了传统资源管理方案的优化难度。因此,本文重点针对非理想回传下的5G网络资源管理展开研究,主要包括以下三方面内容:针对5G协作网络中回传时延造成的协作基站间信息交互延时从而导致系统吞吐量下降的问题,提出了混合式信道预测算法,并基于预测的信道状态信息进行资源调度。所提算法采用回声状态网络,基于历史信道信息来预测当前信道状态信息,以最大化系统吞吐量为目标,通过遗传算法对预测值进行微调。与传统的线性预测算法不同,所提算法结合了回声状态网络具有记忆性的特点以及遗传算法变异过程增加鲁棒性的特点,能够带来更大的预测精度提升。仿真结果表明,相比传统的调度算法,所提算法能够获得更好的系统吞吐量性能。针对5G异构密集网络中回传容量受限、回传时延较大而无法满足用户时延多样性需求的问题,提出了基于最小化系统加权时延的基站选择方案。引入一个参量,以表征用户业务的时延需求,在进行基站资源分配时,以最小化系统总体加权时延为目标,通过多次迭代重排序用户选择优先度的方法,获取每个用户的匹配服务基站。仿真结果表明,相比于传统的最大信号干扰噪声比(maximum Signal to Interference plus Noise Ratio,max-SINR)基站选择方案,所提方案得到的系统时延更低,能够更好满足用户的时延需求。针对5G异构密集网络中负载不均衡的问题,在考虑回传受限情况下,提出了基于多目标优化的负载均衡方案,以系统吞吐量和系统时延作为联合优化目标,基于Q学习(Q-learning)算法和改进的ε贪婪(ε-greedy)策略,每个基站学习得到反映基站当前吞吐量性能和服务质量的偏置因子表格,结合用户的信号干扰噪声比、接入后的时延增加量等因素,完成负载分配。与传统的负载分配方案不同,所提方案基于用户业务在吞吐量和时延方面的特定需求,兼顾回传网络受限带来的影响,在负载分配过程中更贴近网络实际服务能力。仿真结果表明,相比于传统的方案,所提方案在系统吞吐量和时延两个指标上均能获得可观的性能增益,同时能够实现兼顾回传链路的真实网络负载均衡。