近年来,随着视频流、移动计算、虚拟现实游戏等技术的广泛应用,对移动实时带宽提出了更高的要求,由于当前4G蜂窝通信技术不能承载大规模蜂窝用户的密集连接,因此,需要寻找新的通信技术促进蜂窝通信网络的发展。设备到设备（Device-to-Device,D2D）通信就是这种新型通信技术,是5G移动通信中关键的技术。蜂窝网络中的D2D通信是指两个移动用户之间直接进行通信,不必遍历基站（Base Station,BS）或核心网络,是一种近距离通信技术。在城市中,由于建筑物的遮挡、信道的深度衰落以及蜂窝设备的同频干扰,D2D传输信号将大大衰减。因此,在许多情况下,如果两个用户建立D2D直连通信,他们之间传输性能会很差,甚至可能发生通信中断。D2D中继通信是指利用D2D中继节点将D2D源端数据转发到目的端。通过引入中继节点,可以放大衰减后的信号,提高系统的传输速率,扩大通信传输范围,优化频谱资源利用效率。D2D中继通信的优势使如何选择中继节点变得至关重要。本文主要对D2D中继选择问题在两个主要移动应用场景中的选择算法展开研究,具体研究内容为:针对快速移动场景下的D2D中继选择问题,为了能够得到高效稳定的中继辅助通信,提出了基于相对速度与社交关系的动态D2D中继选择方案。首先,该方案根据物理域特性对候选中继节点进行初步划分。然后,根据社交关系、社交相似性定义社交强度公式,用其表示中继辅助通信的意愿。同时,分析影响通信稳定性的因素,提出通信稳定性公式,对获得的候选中继节点的通信稳定性进行倒序排列。最后,利用最优停止算法从候选中继节点中选择最优中继辅助通信,进而获得均衡探测成本与系统性能的稳定性中继节点。通过仿真分析,验证了本文所提算法可以实现较大的吞吐量、稳定性、成功率以及较小的通信时延。针对慢速移动密集用户场景下的D2D中继选择问题,为了能够得到更智能的中继辅助通信,提出了基于深度Q网络（Deep Q Network,DQN）的中继选择方案。首先,此方案根据社交强度、设备间的通信距离、设备的剩余电量与剩余缓存空间对D2D用户的候选中继进行筛选。然后,将影响中继选择的因素构建为状态变量,用其作为训练数据来训练网络。其次,定义联合蜂窝用户的吞吐量、D2D用户的吞吐量、D2D用户间的社交强度、设备剩余电量与缓存的奖励函数。最后,以最大化累计折扣奖励的期望值为目标,将网络训练的动作作为选择的中继用户及匹配的信道资源。仿真结果表明,本文所提算法能够提高系统的吞吐量,保障通信的成功率。