无线通信技术的不断发展要支持越来越多不同种类的移动终端接入到现有的无线网络中来,因此传统蜂窝网络结构发生了巨大变化,大量的用户给无线通信系统中无线资源管理带来了新的挑战,同时,频谱资源短缺问题也显得愈发严重。作为一种有前景的技术,终端直通(Device-to-Device, D2D)技术能够通过在用户之间提供一条直接链路进行通信,从而有效地改善系统频谱效率,扩大基站覆盖范围,提升系统容量,减少用户功耗,增强瞬时速率。D2D通信作为未来5G通信系统的一种重要关键技术,不仅在理论界得到了持续关注,同时3GPP等标准化组织也将这项技术纳入到未来通信网络标准的工作中,因此具有广泛的应用前景。在蜂窝网络中引入终端直通技术,需要将终端直通通信同传统蜂窝通信进行有效的结合,而论文着眼于蜂窝网络下的终端直通无线资源管理技术,对蜂窝与D2D混合网络展开研究,用以解决在蜂窝系统中引入D2D以后带来的干扰、频谱资源分配等问题。论文的主要工作和创新如下：首先,论文针对蜂窝与D2D混合网络蜂窝用户协作下的D2D传输容量进行了研究。论文提出了一种利用蜂窝用户分配一部分功率来协作D2D进行通信的机制,该机制不仅可以提升D2D系统的传输容量,同时也能够保证蜂窝通信的正常进行。在研究过程中,通过分析蜂窝用户协作下D2D通信场景,利用齐次泊松点过程对蜂窝与D2D混合网络进行了数学建模,并推导出协作D2D进行通信的蜂窝用户的存在概率以及蜂窝用户与D2D终端之间的传输距离均值,并得到了系统中的成功传输概率、D2D传输容量表达式以及系统约束条件,通过凸优化分析,得到了在蜂窝用户协作情况下的最优D2D传输容量。最后的仿真结果分析了混合网络中干扰对于D2D传输容量的影响。其次,本文对蜂窝网络下的D2D通信频谱重用问题进行了研究,在D2D共享蜂窝用户上行资源的前提下,提出了一种基于地理区域划分的D2D频谱重用机制。蜂窝小区以基站为中心划分成一系列的环形区域,每个区域允许不同数量的D2D进行蜂窝频谱重用,并且D2D在重用蜂窝用户频谱时能够保证蜂窝用户的正常通信。论文中,采用随机几何进行数学建模,蜂窝通信的中断概率被转换成齐次泊松点过程在二维平面上点出现的概率,进一步通过引入L ambert W函数分析求解可以得到混合网络中各个区域的范围。最后通过仿真得到了区域划分范围与发送功率、传输距离等参数之间的关系,同时验证了所提出的频谱重用策略能够允许远离基站的多个D2D用户同时重用蜂窝上行频谱资源。最后,论文对蜂窝与D2D混合网络中的用户资源分配与功率控制问题进行了深入研究。基于随机几何数学工具,从两方面对蜂窝与D2D混合网络进行了分析：1)根据不同频率资源上用户的占用情况,通过基站端控制,对多个频带上的用户进行模式比率划分,接着借助凸优化理论求解得到不同频带上优化的蜂窝与D2D模式比率,最后提出了一种D2D用户资源分配和模式比率划分的实现算法,得到混合网络中的最优容量；2)在蜂窝与D2D混合网络中,对多频带上D2D用户资源分配问题进行优化求解,并以此为基础进一步优化在各个频段上的D2D发送功率,最后提出一种D2D用户资源分配与功率控制算法,得到每个频带上最优的D2D用户密度与发送功率。仿真分析说明了网络中用户数目和终端发送功率对于最优值的限制,以及系统中干扰对于D2D用户资源分配和功率控制的影响。