随着智能终端的普及和无线通信技术的快速发展,数据流量急剧增长给传统蜂窝网络带来极大的挑战。设备到设备（Device to Device,D2D）通信技术被认为是降低基站负载,提高系统容量的关键技术。相较于授权频段,免授权频段拥有相对宽裕的可用带宽。在免授权频段应用D2D通信技术（D2D in the unlicensed band,D2D-U）可以有效地缓解授权频段资源短缺并提高网络容量。然而,免授权频段已部署了大量的Wi Fi（Wireless Fidelity）系统。如果不考虑与Wi Fi系统公平共存问题,将会严重影响到Wi Fi用户的通信质量。因此本文主要研究授权和免授权频段的D2D通信资源优化分配问题。1.考虑到将D2D通信部署到免授权频段会对LTE-U（Long Term Evolution in Unlicensed Spectrum）系统产生干扰问题,以及采用固定占空比机制（Duty Cycle,DC）导致D2D-U系统与Wi Fi系统之间的不公平性问题。本文建立了一个基于DC机制的D2D-U混合接入优化模型,该模型以最大化D2D-U用户和Wi Fi用户吞吐量并确保与Wi Fi系统公平共存为目标。由于该优化问题是一个混合整数非线性问题,因此将其解耦为两个子问题分别求解。首先通过凸差规划算法求解DC机制ON阶段的D2D-U功率分配问题,并根据D2D用户吞吐量确定待接入的DC机制OFF阶段用户集合。然后通过提出的基于公平性的D2D-U混合接入资源分配算法求解最佳用户接入集合和占空比分配。仿真结果表明,该算法具有更佳的共存系统总吞吐量和公平性。2.考虑到将D2D直接部署在授权频段或者免授权频段必然导致与现有用户的严重干扰问题。本文提出了一种基于多智能体深度强化学习的D2D通信资源联合分配方法。在这个算法中,将蜂窝网络中的每个D2D发射端作为智能体。基于重新定义的奖励函数和状态函数,智能体能够通过深度强化学习方法智能地选择接入免授权信道或者最优的授权信道及其发射功率。通过基于LBT机制接入到免授权信道的D2D用户向蜂窝基站的信息反馈,蜂窝基站能够通过非协作的方式获得到Wi Fi网络的吞吐量信息,使得算法能够在异构环境中执行并能够满足Wi Fi用户的Qo S（Quality of Service）。仿真结果表明,该算法在保证Wi Fi用户和蜂窝用户的Qo S的情况下能够获得最大的吞吐量。