在5G网络环境下,无线设备到设备（device-to-device,D2D）通信允许用户不经过基站直接共享缓存文件,这使得D2D无线通信技术在卸载基站流量、提高频谱资源利用率等方面有着更加广泛的创新空间。基于D2D通信技术的无线异构网络拥有更加灵活的通信方式和更高的传输速率。通过引入经济学中博弈的概念,可以构建一种基于斯塔克尔伯格博弈的D2D无线网络模型,在这种网络结构中,D2D用户作为跟随者,需要购买相应的资源来实现对无线信息的传输与缓存。对于不同的D2D用户,领导者可以制定关于资源的非统一定价方案,进而提高算法的灵活度和适用性。通过对斯塔克尔伯格博弈联合优化问题求解,可以得到斯塔克尔伯格均衡点,进而同时实现领导者和跟随者收益的最大化。然而,在对基于博弈的D2D无线网络资源优化问题进行研究的过程中也存在一些难点,例如,由频谱复用而导致D2D-蜂窝双层异构网络中存在的同层干扰和跨层干扰问题,还有由于实际通信环境的复杂性造成无线信道的增益不确定问题。另外,为了有效降低基站的流量压力,还需要设计相应的激励方式来鼓励D2D用户对内容文件进行缓存。针对这些问题,本文设计了相应的功率控制和缓存优化方案。本文的主要研究工作总结为以下两个方面:（1）针对多个D2D用户同时复用蜂窝用户频谱资源的双层异构网络场景,提出了具有歧视性定价的斯塔克尔伯格博弈。将D2D用户和基站分别视为博弈的跟随者和领导者,基站通过定价的方式来限制频谱复用造成的干扰。为了抑制干扰波动,考虑了瞬时CSI的随机性,将概率约束应用于上层优化问题中,并通过凸二阶锥近似将复杂的概率约束转换为确定形式。此外还根据范数逼近的方法进一步降低了计算的复杂度,最终获得了斯塔克尔伯格均衡的解析解。（2）考虑到D2D共享缓存对于卸载基站流量的重要作用,设计了区块链激励方案。通过构建博弈来优化区块链网络中边缘计算资源供应商和D2D用户的效用。对于下层博弈问题,设计了两种激励模式,分别为线性奖励关系和非线性奖励关系。对于上层博弈,考虑了单一定价和歧视性定价两种方案,然后根据奖励关系和定价方式的不同,构建了四种算法,以满足不同业务需求的场景,并改善了D2D网络的性能。