近年来,随着智能通信终端的普及和移动通信技术的进步,近距离通信服务的需求越来越多,例如点对点的数据共享、本地多播和广播等。为了满足这些业务日益增长的高传输速率要求,提升用户的服务体验,同时减少电信运营商由于扩容而增加的运行成本,终端直通(Device-to-Device,D2D)通信技术被广泛认为是下一代蜂窝移动通信系统中的关键技术之一。在蜂窝网络中引入D2D通信技术,邻近用户之间的通信可以不经过基站(Base Station,BS)的中继而直接传输。由于直通链路距离短,D2D通信可以带来信道增益、复用增益和跳数增益,有助于提高通信系统的频谱效率和能量效率。但是另一方面,D2D通信也给蜂窝网络带来了更加复杂的电磁干扰环境。如果干扰不能得到有效控制,D2D通信会损害其他用户的通信质量从而降低系统的总体性能。因此,有效的干扰管理机制是发挥D2D通信潜在优势的关键,也是其难点。本文致力于D2D通信干扰管理和资源分配研究,从干扰协调、资源优化的角度出发,解决D2D通信和传统蜂窝通信的共存问题,主要研究内容包括以下四个部分:(1)完美信道信息下基于跨层优化设计的D2D通信资源分配;(2)非完美信道信息下基于通信服务质量(Quality-of-Service,QoS)保证的D2D通信资源分配;(3)频谱效率优先的D2D通信传输模式选择;(4)能量效率优先的D2D通信传输模式选择。第一部分研究了在全负载的蜂窝网络中,D2D用户如何通过复用普通蜂窝用户(Cellular User,CU)的频谱资源接入网络并最大化系统吞吐量的问题。在系统模型中考虑基站拥有所有相关信道的完美信道信息并同时保证CU用户和要接入网络的D2D用户的最小信干噪比(Signal-to-interference-plus-noise ratio,SINR)需求。文中设计了联合用户接入控制、功率分配和信道分配的跨层优化资源分配算法。这个算法分为三个步骤:1)根据用户的QoS需求和功率限制,提出一个基于用户距离的接入准则。依据这个准则,基站可以找出所有可以接入网络的D2D用户,并为每对可接入网络的D2D用户找到所有可供其复用信道的CU用户。2)根据凸优化理论,提出最大化D2D用户和CU用户总体吞吐量的最优功率分配算法。3)利用图论中加权二部图的最优匹配算法,为每对可接入网络的D2D用户找到最合适的CU复用搭档。仿真结果表明,与已有的两个经典算法——Fixed Margin算法和基于混合整数非线性规划(Mixed Iinteger Nonlinear Programming,MINLP)问题的启发式算法相比,本文提出的跨层优化算法能显著提高D2D用户的接入率以及系统吞吐量。此外,仿真结果还显示出d2d通信系统的性能与d2d用户的通信距离、d2d用户在网络中位置、网络中cu用户和d2d用户的数目以及用户的最大功率限制等参数密切相关。第二部分研究了基站对cu用户和d2d用户接收端之间的信道(cu-dlink)没有完美信道信息时,d2d用户的接入控制和资源分配问题。与完美信道信息下的系统假设类似,文中考虑了一个全负载的网络场景并保证接入用户的qos需求。不同的是,当基站没有cu-d链路的完美信道信息时,d2d用户接收端的最小sinr不能得到保证,因此文中用最大传输中断概率来保证d2d用户的qos需求。文中采用了基于信道概率统计特性的概率型资源分配策略和基于用户选择的有限反馈机制这两种不同的思路来处理信道信息的不确定性。在基于信道概率统计特性的概率型资源分配策略中,针对不同的衰落信道模型,对于给定的传输中断概率阀值,分别提出了改进的d2d用户最小接入距离准则,并在此基础上提出了概率型的用户资源分配方案。在基于用户选择的有限反馈机制资源分配策略中,提出了一个选择最优反馈用户的最大距离比值(maximum-distanceratio,mdr)准则。两种资源分配策略各有利弊,概率型资源分配策略不需要额外的反馈信息传输,但是d2d用户出现传输中断现象不可避免;而有限反馈机制存在反馈信息开销,但是不会出现传输中断。因此最后文中提出了综合两种资源分配策略各自优点的混合策略资源分配算法。仿真结果表明混合策略资源分配算法对信道衰落模型变化不敏感,而且可以进一步减小d2d用户中断概率和反馈信令开销。第三部分研究了以最大化系统频谱效率为目标的d2d通信最优传输模式选择问题。文中综合考虑用户最小速率要求、最大功率限制以及用户业务的优先级,分别定义了正交模式、复用模式和基站中继模式下系统频谱效率最优的频谱和功率资源分配问题,然后提出了相应的最优算法。具体地,对于正交模式和基站中继模式,证明了其优化问题是拟凸优化问题,并采用二分法(bisectionalgorithm)获得了最优解。对于复用模式,首先通过函数重组把优化目标函数转化成两个凸函数差的形式(differenceofconvex,d.c.),然后通过凸凹过程(concave-convexprocedure,cccp)算法获得d.c.优化问题的最优解。仿真结果表明基于最优模式选择的d2d通信能显著提高系统的频谱效率。第四部分研究了以最大化用户终端能量效率为目标的d2d通信最优传输模式选择问题。在系统模型中,同时考虑了用户发射功率消耗和固定的电路功率消耗。与频谱效率优先的传输模式选择问题类似,文中针对d2d通信三种传输模式下的最优资源分配子问题,都提出了相应的最优算法。与频谱效率优化问题相比,能量效率优化问题更加复杂。因此,文中首先通过基于参数法的dinkelbach算法把原非线性的分数规划(Nonlinear Fractional Programming,NFP)问题,转化成数学上更容易处理的形式。在正交模式和基站中继模式下,证明了转化后的问题属于标准的凸优化问题,采用内点法得到最优解;在复用模式下,转化后的问题可以进一步化简成D.C.问题,然后采用CCCP算法和内点法获得最优解。仿真结果表明基于能量效率优先的模式选择能显著提高用户终端的能量效率。此外,仿真结果还显示在大部分场景中,考虑用户能量效率时,最优的传输模式是复用模式;考虑系统频谱效率时,最优传输模式是正交模式。本文中所取得的研究成果,可以为分析更复杂的D2D通信系统提供理论基础,并为设计启发式算法提供数值依据。