为了适应呈指数增长的移动业务需求，未来通信网络需要从多方面深度挖掘数据特性以提升网络性能。基站侧缓存方案针对视频文件的需求特性，通过在非高峰时刻将流行文件存储在基站缓存，可以大大降低高峰时刻回程链路的负载和时延，被认为是未来超密集网络极具潜力的研究方向。其中，随机缓存(RC,random caching)方案通过在不同基站的缓存中存储不同的文件集合，使得在网络中所有基站缓存中所存储的文件数目超过单个基站的缓存容量，可以保证用户能够最大程度地从网络缓存中获得需求文件。然而，在随机缓存方案中，用户需要连接到距离较远存储需求文件的基站，同时容易受到来自距离较近的没有存储需求文件的基站的干扰，这会降低文件的传输质量。多天线传输和基站协作可以使用单个或多个基站上多根天线的空间自由度来增强接收信号和处理干扰，是提升随机缓存方案文件传输性能的有效途径。鉴于此，本论文开展基于多天线传输与基站协作的超密集网络随机缓存理论方法研究，分别从多天线传输和基站协作的角度研究了随机缓存文件传输可靠性性能提升的可行性。全文主要工作和贡献如下：
　　首先，,针对有限回程的多天线微小区网络，使用多天线传输增强随机缓存方案中较弱的接收信号，并提出了回程链路传输和随机缓存联合设计理论方法。采用了最大比发射(MRT,maximum ratio transmission)波束赋形方案提供最大的阵列增益，基于这一波束赋形方案，使用微基站缓存和微基站容量受限的回程链路为用户提供需求文件。假设微小区网络节点分布服从泊松点过程(PPP,Poisson point process)，发送端信道状态信息(CSIT，channel state information at transmitter)完美已知且信道衰落系数服从复高斯分布，推导了成功传输概率的确切表达式，上界表达式和高用户密度下的渐进表达式。基于理论推导结果，联合设计了计网络吞吐量最优的回程链路传输方案和随机缓存方案。通过分析最优缓存集合的特性，降低了缓存集合的搜索范围，并提出了高用户密度下的回程链路传输和随机缓存的渐进最优设计方案。数值仿真表明，相比于传统的缓存方案，本文提出的回程链路传输和随机缓存联合设计方案能够显著提高成功传输概率。同时，随着天线数目的增多，最优的缓存概率分布会逐渐分散，使得用户更有可能从缓存中获取需求文件。
　　其次，，针对空分复用(SDMA,space division multiple access)的多天线异构网络，使用多天线传输增加网络吞吐量，并提出了跨层随机缓存理论方法。采用了迫零(ZF,zero-forcing)波束赋形方案提供复用增益，基于这一波束赋形方案，使用了异构网络不同层基站的缓存为用户提供需求文件。假设异构网络节点分布服从独立多层泊松点过程，发送端信道状态信息完美已知且信道衰落系数服从复高斯分布，推导出网络吞吐量的确切表达式，上界表达式和高信干比门限下的渐进表达式。基于理论推导结果，设计了网络吞吐量最优的跨层随机缓存方案。针对一般情形，使用梯度投影法求得跨层缓存概率分布的局部最优解，并给出了高信干比门限下简单的跨层缓存渐进最优方案。接下来，针对复用系数最大情形，提出了次优跨层缓存设计方案，使用注水迭代法获得局部最优解。数值仿真表明，相比于传统的缓存方案，本文提出的跨层随机缓存设计方案能够显著提高网络吞吐量。
　　接着，针对干扰置零(IN,interference nulling)的多天线协作微小区网络，使用基站协作处理随机缓存中较强的小区间干扰，并提出了干扰置零和随机缓存联合设计理论方法。采用了协作迫零(CZF,coordinate zero-forcing)波束赋形方案消除来自附近小区的干扰，基于这一波束赋形方案，使用了微基站的缓存为用户提供需求文件。假设微小区网络节点分布服从泊松点过程，从理论上证明了缓存多样性增益与干扰至零开销线性相关。假设接入用户服从独立的泊松点过程，推导了干扰置零请求的概率密度函数。假设发送端信道状态信息完美已知且信道衰落系数服从复高斯分布，推导了缓存命中概率（CHP,cache hit probability）及其上界的闭合表达式。基于理论推导结果，联合设计了缓存命中概率最优的干扰置零方案和随机缓存方案。使用块坐标上升法交替优化干扰置零系数和随机缓存概率分布，并在迭代的过程中，通过分析缓存概率分布的最优性降低算法复杂度。数值仿真表明，相比于传统的缓存方案，本文提出的干扰置零和随机缓存联合设计方案能够显著地提高缓存命中概率。同时，随着天线数目的增加，最优的干扰置零系数将会增加，从而保证微基站能为更多其他小区的用户消除干扰。
　　最后，针对联合传输(JT,joint transmission)的空间相关协作异构网络，使用增强边缘用户的传输可靠性，并提出了联合传输和随机缓存联合设计理论方法。采用了联合传输方案提供宏分集增益，基于这一联合传输方案，使用了微基站的缓存和宏基站的回程链路为用户提供需求文件。使用泊松洞过程(PHP,Poisson hole process)建模异构网络节点分布，该模型可以描述实际网络中不同层基站的空间相关性。采用一阶和二阶统计量匹配方法，使用泊松簇过程(PCP,Poisson cluster process)近似泊松洞过程。基于近似的泊松簇过程，推导了不同基站协作策略下的平均频谱效率（SE,spectrum efficiency）。基于理论推导结果，设计了平均频谱效率最优的缓存分配方案。针对文件数目较大且文件需求集中的情形，使用连续函数逼近缓存需求概率，从而将缓存分配方案设计这一整数优化问题近似为连续变量优化问题。之后，通过分析KKT条件，求出了近似平均频谱效率最优的缓存分配的闭合最优解。数值仿真表明，相比于传统的缓存方案，本文提出联合传输和随机缓存联合设计方案能够显著地提高平均频谱效率。