随着下一代移动通信技术的不断发展成熟，基于LTE-A的D2D技术也在日趋完善。D2D作为自组网络的一个发展分支，良好有效的中继选择算法对混合系统链路质量的保障和频谱利用都起着至关重要的作用。研究混合网络中针对D2D通信技术的特点的中继选择算法具有重要意义。论文首先介绍了LTE-A的网络架构、物理层传输方案及与之对应的帧结构，然后在LTE-A系统基础上根据D2D通信系统的特点，分别针对蜂窝通信与D2D直通通信共存的混合网络、蜂窝通信系统中引入D2D中继到基站、以及蜂窝用户中使用D2D多跳中继的场景，分别设计了适合的中继选择的策略和方案，提高了系统性能。论文重点研究了各场景下的中继选择算法，分别为D2D链路和蜂窝链路设计了基于区域限制的半分布式中继选择算法和基于地理位置的集中式中继选择算法，以保障现有系统链路质量为目标，能有效简化中继选择流程，减少链路失败的概率。在此基础上，论文针对新发起的D2D通信提出了基站辅助的多跳中继选择算法，能在最小化跳数的同时，有效减少对蜂窝用户造成的干扰，提高频谱效率。论文通过对上述方案进行仿真，加载了不同场景下的系统模型，通过对算法的性能仿真，说明提出的算法较传统的方法能显著降低链路失败概率，减小中继选择复杂度，提高系统整体数据速率，从而优化系统性能。