无线通信技术正在以迅猛的速度向前发展,尤其是第五代移动通信技术的普及和推广,让我们的生产生活更加智能化、便利化。然而智能终端数量的极速增长将导致移动数据业务量的激增,给通信系统的数据传输速率、系统容量、网络时延、频谱利用率等关键指标带来不利影响。终端直通技术(Device-to-Device,D2D)是5G通信的关键技术之一,其通过用户进行近距离数据传输来提高端到端的数据传输速率,减轻基站的负担,提高频谱利用率。当两个D2D用户间距离较大或者信道质量不佳时,引入中继技术可以进一步提高D2D用户间数据传输的可靠性。本论文将D2D通信和中继技术相结合,针对AF中继和DF中继辅助下的D2D通信场景,分别提出了一种低复杂度的功率优化算法和模式选择方案,有效提升了通信系统的性能。具体内容如下:首先,针对双向AF中继辅助下的D2D通信场景,研究了基于蜂窝链路和D2D链路可达和速率最大化的功率优化问题。以蜂窝链路和D2D链路的可达和速率为目标函数建立优化模型,得到最优功率分配系数,进而提出一种低复杂度的功率优化方法。仿真结果表明该方法可有效提高系统可达和速率。其次,针对DF中继辅助下的D2D通信场景,分析了两个在不同小区的用户在传统D2D传输模式、基于单向DF中继的D2D传输模式和基于双向DF中继的D2D传输模式下的传输方案。分别推导出三种模式下的系统可达速率,并进一步根据两个用户之间距离的不同,提出了一种低复杂度的模式选择方案,该模式选择方案以闭式表达式的形式给出。仿真结果表明,本文所提出的模式选择方案,可以根据两用户间距离的变化切换到通信性能最佳的模式,提高了D2D用户的通信质量。