移动通信技术在给人们带来便利的同时,也产生了海量的数据流量,给传输链路带来了极大的压力。为了缓解这一压力,缓存技术被提出并得到了广泛的应用。基于高密度蜂窝网络与设备到设备（Device-to-Device,D2D）通信技术,通过预先将数据缓存到边缘基站或用户中,可以节省核心链路的负担,降低文件的传输时延。传统的流行度缓存策略可以提高用户自身的缓存命中率,但不一定适应所有的场景,因此为了满足不同场景下的需求,需要制定更加合理的缓存策略。本文采取了博弈论、贪婪算法等工具,对蜂窝网络下基于传输代价的缓存策略进行了研究。具体内容及主要贡献如下所示:（1）针对可伸缩视频编码（Scalable Video Coding,SVC）文件,提出了一种D2D用户的文件缓存策略。将用户分布建模为泊松点过程（Poisson point processes,PPP）,并结合SVC文件的分层特性,推导了文件各层数据包的激活概率与成功传输概率。引入激励机制,即内容提供商（Content Provider,CP）给出激励以鼓励用户缓存相应文件,节省传输代价。基于推导出的概率与激励,分别定义用户与CP的效用函数为各自的收益。将用户与CP间的交互建模为斯坦伯格博弈,CP为领导者,优化激励价格,用户为跟随者,通过拉格朗日乘子法优化缓存策略。仿真结果表明,在文件命中率与最优值相差不大的情况下,相较于现有文献,提出的缓存策略可以有效减少用户请求文件所需的平均传输代价。（2）针对能量采集场景,提出了一种基于用户移动性与社会关系的用户与小基站（Small Base Station,SBS）联合缓存策略。首先根据用户间的接触模型,推导了用户与SBS传输文件预计消耗的能量。结合用户间的社会关系强度,定义用户的代价函数为社会关系强度与传输代价乘积的总和,SBS的代价函数为所有用户的传输代价总和。在缓存空间与剩余能量约束下,分别构建用户与SBS的缓存优化问题为各自的代价函数最小化问题。最后证明了用户与SBS的缓存优化问题均具有单调次模特性,可采用贪婪算法求解。仿真结果表明,在用户移动性较强时,相较于传统算法,提出的缓存策略可以节省约40%的传输代价。（3）针对可能存在恶意用户的问题,提出了一种基于信任机制的传输用户选择策略。用户中存在恶意用户,因此本文引入了信任指数来衡量用户的可信度。每时隙用户的信任指数由历史数据与本次收到的评价共同构成。以最大化文件命中率为目标,用户的缓存问题可被表述为多个独立的0-1背包问题,其中价值为用户请求概率,重量为文件大小,最优缓存策略可以通过动态规划算法获得。在传输干扰约束下,以最大化通过D2D传输可节省的传输代价为目标,构建传输用户的选择问题,并提出了一种贪婪算法优化传输用户的选择。仿真结果表明,提出的算法具有更高的安全传输概率,可以节省更多的传输代价。