为了应对通信网络中频谱紧张的困局和满足多媒体、社交网络等应用带来的蜂窝通信数据流量快速增长的需求,第五代移动通信系统(5G)中引入了终端直通(Device-to-Device communications,D2D)通信技术。其中,蜂窝网络下的D2D通信不仅能够提高系统整体通信容量、小区边缘用户的性能,还能够降低通信传输时延和基站的通信负载。由于D2D用户复用蜂窝用户的频谱资源,共享频谱的用户之间将会产生干扰。为了有效避免干扰,提升蜂窝网络中D2D通信系统性能,需要对系统中的通信资源进行合理且有效的分配。鉴于此,本文主要针对蜂窝网络中D2D通信的资源分配问题展开研究,分别研究了D2D单播通信模式下联合上下行子载波和组播通信模式下的资源管理问题以提升系统性能。针对D2D不同通信模式下研究内容,进行数学建模并设计资源管理算法,进一步通过仿真分析验证了所提算法的性能。本文的主要工作包括以下两个方面:(一)研究了联合上下行子载波的D2D单播资源分配问题,考虑在D2D对联合复用蜂窝用户上行和下行子载波的情况下,最大化系统整体数据速率。具体而言,不同于以往方案设计中D2D对仅可复用蜂窝网络上行或下行子载波的通信场景,本文允许D2D用户联合复用上行和下行子载波资源,并研究在同时保证蜂窝用户和D2D用户基本数据速率需求情况下最大化系统整体的数据速率问题。为了有效解决构造的混合整数非线性规划问题,提出子载波分配和功率控制算法。首先,针对每一对潜在的蜂窝用户和D2D用户互相匹配情况下,使用几何规划算法得出用户最优的功率控制结果。然后,使用匈牙利算法实现了子载波资源和D2D用户的最优匹配。最后,通过合理的仿真实验对所提资源分配算法进行了验证。实验结果表明,联合复用上行和下行子载波资源较传统的资源分配方案,对系统性能有较大的提升。不仅能够提升系统整体数据速率,还能进一步提高D2D用户接入通信网络的概率。(二)研究了“多对多”子载波复用情况下组播速率最大化的D2D组播资源分配问题,考虑从系统整体资源管理角度对蜂窝用户和D2D组播用户进行子载波分配和功率控制。具体而言,研究在满足蜂窝用户基本数据速率需求的基础上最大化D2D组播组的数据速率问题。对该问题进行数学建模,分析该问题性质为MINLP问题,故将该问题分解为两个子问题进行求解。其中,在子载波分配子问题中,提出一种启发式子载波分配算法。此基础上,在功率分配问题的解决步骤中,首先使用D.C.算法,将问题中的非凸函数转化为凸函数形式。然后将非光滑目标函数进行处理,进一步揭示了功率分配问题中潜在的可凸优化性质。最后,通过详尽的仿真实验,对所提算法进行了分析。仿真结果表示,在“多对多”子载波复用场景下,从系统整体资源管理角度进行联合子载波分配和功率控制,能够大幅提升D2D组播组数据速率之和。