尽管引入了中继(relay)、协同多点传输(CoMP)等技术的下一代宽带蜂窝移动通信系统(IMT-Advanced)在小区覆盖、边缘用户体验等方面较3G网络有更为优秀的表现，但由于以基站为中心的通信方式本身所存在的局限性，其在网络容量、业务支撑和频谱效率等诸多方面仍存在较大的提升空间。终端直通(Device-to-Device，D2D)技术通过在收发端间建立直接的无线连接，来提供低功耗、高速率、低时延的数据传输。初步的研究表明，在IMT-Advanced系统中融合能够复用蜂窝资源的D2D技术，能够显著提升传输效率、增强网络覆盖。　　 然而D2D通信在为混合网络带来增益的同时，也产生了新的挑战:首先是直通模式的开放，使得终端设备在工作方式上有了更多的选择;相应地，终端就需要更多的辅助信息和判决准则来决定最优模式。然后是资源共享方式的多样化将造成更复杂的无线干扰环境。若不对D2D重用资源的策略加以有效控制，其产生的同频干扰将严重影响双方的通信质量，甚至使引入D2D技术得不偿失。因此如何协调混合蜂窝与D2D网络中的干扰问题也属于当前研究的热点。　　 本文以蜂窝与D2D混合网络为背景，主要研究D2D通信可复用蜂窝上行资源时的模式选择与干扰协调机制。文章首先定义了混合网络中D2D设备可选用的通信模式:Cellular、Dedicated与Reuse，其中Cellular与Dedicated模式采用了与蜂窝用户正交使用资源的策略，而D2D通信在Reuse模式中则会有条件地重用原授权频段资源;接下来分别对不同场景中的模式选择与干扰协调机制进行了探索:对单小区环境，提出了基于距离的干扰协调与模式选择算法。该算法先在综合考虑蜂窝用户的QoS和系统容量的最大化的基础上，改进已有研究为新的蜂窝与D2D联合干扰协调机制;再结合严格的数学推导和合理的近似估计，实现了仅依赖于少量距离参数的非遍历式最优模式决策。仿真结果表明，该算法能在已知信息非常有限的情况下，较准确地实现最优的功率控制和模式选择。而对无线资源更开放的多小区环境，本文提出一种新的网络辅助的干扰协调机制，以使D2D设备能有效获得任意目标蜂窝用户的分配资源;同时使用效用函数来进一步描述模式选择的过程。仿真结果表明，上述算法成功地帮助D2D设备获取和利用一切可用的蜂窝资源，又充分保证了原蜂窝用户的业务质量。与其他一些对比算法的比较也证明，上述算法能获得最高的系统容量。