由于现代无线通讯技术的迅猛发展,频谱资源匮乏的问题变得越来越严重,尤其是随着5G的普遍应用资源匮乏问题也愈加明显。如何在现有频谱资源的基础上提高其利用效率成为当前的研究重点。因此D2D（Device-to-Device）作为一项终端设备直通技术受到通信界研究者的持续关注。D2D技术可以极大的提升系统资源的利用率,缓解基站（Base Station,BS）的压力,让系统拥有更快的传输速率以及更大的容量。但是把D2D引入到蜂窝系统中会给原有的蜂窝用户带来大量的干扰。因此,如何为D2D选择合适的通信模式以及有效的控制其干扰成为了提高系统性能的关键。本文着重解决模式选择和功率控制这两个关键问题。把系统吞吐量这个重要参量作为本文的指标进行优化,制定了功率控制以及选择通信模式的方法。首先,考虑单个蜂窝小区场景,着重解决蜂窝用户以及D2D对的发射功率控制问题。同时,D2D对通过使用蜂窝的上行资源完成通信。分析系统内的干扰,在满足发射功率和信号与干扰加噪声之比（Signal to Interference plus Noise Ratio,SINR）约束的情况下,建立以求解吞吐量最大值为目标的约束优化问题,其中的功率和SINR的联合限制是为了能更好的降低干扰;然后提出一种自适应遗传算法,该算法采用了实数编码的方法,根据粒子群算法中的非线性动态的惯性权重策略和基于反余弦策略的学习因子分别对交叉算子以及变异算子的计算方式进行改动。同时,还加入了优秀个体保存方案,能够有效的保存在演化过程中出现的优秀基因。根据所提算法解决优化问题,得出最优发射功率,仿真表明本文算法能很好的提高系统吞吐量。文章进一步的研究了联合模式选择的D2D功率控制,先分析D2D对给BS造成的干扰是否超过给出的限定值,再使用基于SINR的模式选择方法给各个D2D对选择合适的通信模式,并在此基础上建立以系统吞吐量为目标的优化问题。其次提出了一种改进的灰狼优化（Grey Wolf Optimizer,GWO）算法解决优化问题,得出模式选择后的D2D和蜂窝用户的最优发射功率,该算法先是改进了GWO中的收敛因子使其呈非线性减小状态,其次改进了种群更新策略,改进方案使算法拥有更好的全局搜索能力。仿真验证了所提算法的有效性。