随着移动通信技术的发展,现代生活对无线多媒体业务需求急剧地增长,与此同时,频谱资源短缺问题日益严重,如何充分利用有限的频谱资源成了研究的热点问题。D2D(Device-to-Device)技术可以通过复用小区频谱资源的方式提高频谱利用率,有效降低基站负荷,可以在无网络基础设施的情况下通信,保证了网络的QoS(Quality of Service)及鲁棒性。根据D2D用户复用频谱资源的情况,可以分为正交模式(也称为overlay模式)和复用模式(也称为underlay模式)。当在移动蜂窝网络引入D2D通信后,会引发新的频谱资源竞争和相互干扰问题。为此,本文以博弈论为工具,研究了D2D通信中的资源分配和干扰控制问题,主要研究工作如下:针对D2D用户工作在overlay模式,考虑多个基站和具有认知能力的D2D用户对,本文运用伯川德(Bertrand)博弈模型来解决动态频谱分配问题。首先,分析了D2D通信中蜂窝用户间和D2D对用户组之间的博弈,分别对D2D对用户组和基站的效用函数进行了改进,提出了一种新的基于非合作博弈的动态频谱分配算法。进一步,给出了基站的最优定价和D2D对用户组的动态价格调整策略,改进了蜂窝用户和D2D对用户组的收益函数,证明了纳什均衡解存在性和算法的收敛性,并讨论了在不同的学习因子的影响下动态博弈算法的收敛速度。最后,通过仿真试验,验证了本文算法在系统的频谱利用率和公平性方面均有提高。针对多个D2D对以underlay模式复用蜂窝用户信道资源时,D2D用户之间及D2D用户和蜂窝用户之间存在的干扰问题,考虑基站和D2D发送端有多根天线,本文在满足额定的发射功率和用户的服务质量的条件下,以最大化系统加权和速率为优化目标,兼顾用户公平性,提出了一种基于价格策略的非合作博弈的分布式波束赋形算法。由于目标函数是非凸的,首先,通过对偶分解法来求每一个发送端的下行波束赋形问题的KKT条件的解;其次,给出了基于非合作博弈的分布式波束赋形算法,该算法能够快速收敛到纳什均衡点,并具有较低的信息交互开销;最后,通过仿真对比实验显示,与现存典型算法相比,所提出算法在系统的和速率与公平性方面具有较大的改进。