互联网、云计算等网络技术极大地丰富了人们的生活,成为很多人必不可少的日常需求。大规模集成电路的发展使得手持移动终端强大到能够承载各种网络应用。互联网也从面向个人电脑往面向移动终端发展,由此而生的“移动互联网”成为当下的热潮。作为移动互联网的主要网络载体,蜂窝网承载的数据已从传统的语音和文本等简单格式,发展为视频、语音和文本等多种类型的复杂多媒体格式。这对于蜂窝网络的设计是极大的挑战。用户对于无线通信带宽需求的不断增长和蜂窝网络有限的无线资源供应成为主要的矛盾。如何提高有限频谱的利用率是蜂窝网络演进的重要方向。提高频谱的空间复用是近几年来峰窝网络研究的重点。其中,D2D通信(Device-to-Device communication)技术利用通信叹方的近距离特性,通过复用无线资源的方式提高了频谱的空间复用,成为近年来研究的热点。本文首先研究了D2D通信在同构网络下的干扰协调问题。虽然D2D通信复用蜂窝用户的无线资源必然会对蜂窝用户造成同频干扰,但由于D2D通信双方之间的距离较近,所需要的发送功率相对较低,因此,合理地分配D2D用户的复用资源并控制其发送功率可以在保证一定的用户服务质量(Quality of Service,QoS)的条件下提高频谱效率。针对同构网络下的D2D干扰协调问题,本文首先提出了一种基于部分位置信息的功率控制和信道分配方法。我们以中断概率来表征用户QoS,在D2D用户周围规划出一个干扰受限区域。系统为D2D用户分配干扰受限区域外的蜂窝用户的信道,使得用户中断概率低于门限。所提的方法对信息需求少,仅需用户距离基站的一维距离信息,计算复杂度低。其次,我们对上述思想进行进一步改进,并将改进后的思想应用到多小区蜂窝网络下的D2D干扰协调,提出了可接入区和可复用区的概念,为多小区下的D2D通信提供了一种信息需求少、复杂度低的功率控制和信道分配策略来协调干扰。其次,本文研究了D2D通信在异构蜂窝网络下的资源优化问题。异构网络指宏蜂窝与小蜂窝共存的蜂窝网络。小蜂窝技术是另一项利用用户的近距离特性实现无线资源空间复用的技术。低功率的小型蜂窝接入点或者叫小基站可以被用户或者运营商部署在热点或者宏基站覆盖盲区,形成小范围的蜂窝网络为用户提供接入服务。小蜂窝技术是另一项蜂窝网络研究的热点,未来的网络架构也很可能成为宏蜂窝与小蜂窝异构网络。在这样的背景下,我们考虑D2D通信在异构网络中的资源优化问题。首先,我们研究了D2D通信在异构网络下的模式选择问题。我们提出了两种新的D2D通信模式,因此在异构网络中D2D通信具有五种可选模式,分别为复用宏蜂窝信道模式、复用小蜂窝信道模式、专用模式、宏蜂窝模式和小蜂窝模式。同时,我们对基于系统能量效率的模式选择问题进行建模分析。其次,我们考虑了D2D通信作为中继技术的资源优化问题。D2D通信实现了蜂窝终端间的直连通信,因此未来的蜂窝终端可以作为中继,帮助小蜂窝覆盖范围外的用户接入到小基站。对于处于宏蜂窝边缘而距离小基站较近但又不在其覆盖范围内的用户来讲,D2D中继可以有效提高用户体验。我们以QoS保障条件下的用户功耗最低为资源优化目标,设计了联合的中继选择、功率控制、接入模式选择和信道分配算法。