蜂窝网络满负载状态下,终端直通(Device-to-Device,D2D)技术允许邻近用户通过资源复用完成数据传输,结合有效的资源分配方法抑制干扰,可实现频谱利用率和系统容量的共同提升。此外,将中继技术引入D2D通信,可支持多种传输模式(直传模式,两跳模式,协作模式),扩展通信覆盖范围,进一步增强D2D性能。然而,由于两跳和协作模式的引入会带来额外的功率消耗,并且使得干扰情况更为复杂,为充分发挥D2D通信优势,应对未来5G中高速率、高能效的迫切需求,本文对多模式D2D通信中面向能量效率优化的三维资源联合分配方法展开研究,具体工作如下:从系统能量效率的角度出发,以直传模式、两跳模式、协作模式为模式备选集,建立了功率控制、模式选择和信道分配的三维联合优化问题。通过利用D2D通信链路正交性和D2D传输模式唯一性,对三维联合优化问题进行分解,得到了最大化系统能量效率的最优分配方法。在此基础上,提出一种低复杂度的次优方法,在逼近最优解的同时有效降低算法运行时间。仿真结果表明:相较于仅考虑直传和两跳模式的二维资源联合分配方法,本文所提出的三维资源分配方法在系统能量效率上获得了显著的性能提升,同时次优方法在系统能量效率上也达到了最优方法的96.2%。针对最大化系统能量效率可能会导致某些D2D用户的能量效率较低的问题,本文进一步研究了基于用户间公平性的三维资源联合分配方法。一方面,考虑最优公平性,以最大化最小能量效率为优化目标进行资源分配,仿真结果表明在资源分配方法中引入协作模式将提升公平性。另一方面,由于最小能量效率的提高会降低系统能量效率,为综合考虑性能收益,以最大化系统能量效率为优化目标,最小能量效率为约束条件,设计功率-模式-信道的资源联合分配方法。仿真结果表明通过调整最小能量效率门限,我们可以实现D2D系统在最优系统能量效率和最优公平性间的折中。