D2D(Device-to-Device)通信是一种终端直通技术,应用在蜂窝系统中能有效地提高频谱利用率并减轻蜂窝网络的压力。但是D2D通信的短距离限制使其不能广泛的应用在蜂窝系统中。中继以及多天线辅助的D2D通信系统能有效地解决该问题,本文主要就是研究基于中继和多天线的D2D通信系统,具体的内容如下:首先研究了D2D通信引入中继技术后系统性能。针对传统的中继算法进行了改进采用机会中继算法来选择最优的中继参与协作,并分别推导了中继在DF和AF模式下,系统的中断概率、互信息量。仿真结果验证了理论分析的正确性,同时表明应用中继技术可以有效的提高D2D系统的容量,降低中断概率。其次研究了基于多天线技术的D2D中继通信系统。本文考虑两种多天线中继场景:仅接收端是多天线系统(SIMO)、收发端均是多天线系统(MIMO)。论文详细推导了两种场景下中继DF模式和中继AF模式下系统的中断概率、误码率以及系统容量。仿真结果验证了公式的正确性,同时表明采用多天线技术可以有效的降低D2D中继通信系统的中断概率。当一对蜂窝用户由于距离较远无法进行D2D通信时,应用多天线和中继技术可以使蜂窝用户对选用D2D模式来进行通信。最后研究了基于虚拟MIMO技术的D2D中继通信系统。多天线技术能给系统性能带来巨大的增益的同时也带来了高代价,为此虚拟MIMO技术被引入。利用簇协作通信技术,D2D用户对与周边空闲用户构成虚天线列阵获得MIMO增益。根据簇内协作节点的解码情况,分析了中继DF和AF模式下两种基于虚拟MIMO技术的D2D通信。文章的最后具体描述了虚拟MIMO通信的实现流程。