随着现代社会移动应用的快速发展,人们对无线通信的数据速率和服务质量的要求越来越高。作为5G通信中的关键技术,超密集网络（Ultra Dense Network,UDN）近年来受到了学者们的广泛研究和关注。灵活、密集地部署小型基站,可以减小用户设备与接入节点之间的距离,有效地提高通信网络的频谱效率。然而,众多的基站数量与浮动的网络负载同时带来了能源和通信资源的浪费,使得提高超密集网络能量效率的需求越来越迫切。功率分配技术和基站休眠技术作为提升超密集网络的关键技术,目前仍面临计算复杂度高,泛化性能差、二者未能有效联合优化的问题。在这一背景下,本文研究了超密集网络中基于深度学习的网络能效优化问题。本文主要的工作和贡献如下:1、针对现有功率分配方法计算复杂度高,泛化性能差的问题,提出了一种基于序贯分数规划及其深度神经网络实现的功率分配方法和一种基于深度域适应的功率分配方法。先从传统的数学优化方法出发,使用序贯分数规划方法,对最优功率分配问题进行求解,然后使用数据增强的深度神经网络拟合信道增益到功率分配的映射关系。对于障碍物位置发生变化的超密集网络,进一步考虑数据的迁移性,通过差异度量与加权偏移纠正的对抗学习,对变化前后的数据域进行深度域适应,利用大量原通信网络数据和少量新通信网络数据实现新通信网络数据的功率分配。仿真实验表明,本章提出的两种深度学习算法表现优秀且稳定,可以显著优化超密集网络能效。2、针对功率分配技术与基站休眠技术联合优化建模和求解困难的问题,从时序预测的视角,提出了一种基于长短时记忆网络的功率分配与基站休眠联合优化算法。通过将分配了功率过低的基站休眠的思想,联合处理基站休眠与功率分配的决策,并使用长短时记忆网络挖掘前序时间里的信道增益信息,为当前时刻的基站休眠与功率分配进行决策。仿真实验验证了算法在能效提升任务上的性能,结果表明,相比于仅使用功率分配的方法和使用长短时记忆网络进行基站休眠再进行传统功率分配的方法,本章提出的算法能减少不必要的基站状态切换,提升超密集网络的长时平均能效,更具优越性。3、针对功率分配与基站休眠联合优化建模和求解困难的问题,从顺序决策的视角,提出了一种基于深度确定性策略梯度的功率分配与基站休眠联合优化算法。利用基站休眠技术带来的马尔科夫性质,将功率分配与基站休眠联合优化问题转为为马尔科夫决策过程,使用深度确定性策略梯度方法与超密集网络的仿真环境不断交互,学习到能对长时能效优化带来最大期望回报的功率分配与基站休眠调整动作。仿真实验表明,基于深度确定性策略梯度的功率分配与基站休眠联合优化算法相比于仅仅使用功率分配的方法和不使用基站休眠与功率分配的方法,能实现更低的基站休眠频次与更高的长时平均能效。