一方面,超密集网络中密集部署的基站带来严重的干扰问题,同时用户高速率低时延的业务需求日益增长,无线蜂窝网络面临小区边缘用户干扰大,传输速率低等挑战。另一方面,超密集网络基站的密集部署使得用户接收来自周围基站的信号强度相近,位于干扰小区与热点区域的用户面临严重的频繁重选/切换问题,边缘用户业务的连续性与终端功耗受到巨大冲击。针对超密集网络干扰严重,链路质量相近现象,为了提升边缘用户服务质量(Quality of Service,QoS),论文在超密集网络中引入人工智能算法,研究智能协作调度技术与智能网络选择技术解决上述难题。首先,论文提出一种联合传输调度与功率控制的动态博弈方法。基于现有的协作调度方案,研究多点协作(Coordinated Multi-Point,CoMP)系统两大关键问题:传输调度与功率分配。具体地,研究基于近邻传播算法的传输调度方案实现动态资源管控,进一步采用纳什议价解(Nash Bargaining Solution,NBS)合作博弈建模功率分配问题,提升用户间公平性。特别地,效用函数设计同时兼顾用户吞吐量与时延,满足多指标需求是未来移动互联网发展的基本方向。其次,分析超密集网络链路质量相近现象,用户终端频繁重选/切换体验不佳问题,并针对上述不足提出一种智能网络选择方法。首先针对链路质量评估不精准问题,研究基于深度森林的链路质量评估方法。进而,利用评估出的链路质量引入强化学习方法指导终端网络选择。最后,论文分别在Matlab和Python搭建的系统级仿真平台上对论文所提算法与现有算法进行仿真对比分析。仿真结果表明,本文提出的智能协作调度方法可大幅度提升用户传输速率,降低用户传输时延,提高用户间公平性。进一步,本文提出的基于深度森林的链路质量评估结果指导的终端网络选择方法在保证用户吞吐量以及时延等性能的前提下,可以减少终端频繁重选/切换的次数,从而提升终端业务的连续性以及减少因频繁重选/切换引起的终端功耗。