随着移动互联网、物联网、云计算等新技术的快速发展,虚拟现实、智能交通、工业物联网、远程医疗、智慧城市等丰富多样的新兴业务不断涌现,导致移动数据业务流量爆炸性增长。为了提高网络承载能力,第五代移动通信（5G）网络一方面在热点区域密集化部署不同类型的基站提升网络容量,另一方面,通过引入网络虚拟化、不同接入网络异构融合等新技术实现动态组网模式和智能资源适配,满足不同应用场景下个性化、定制化的服务需求。然而,工业物联网、自动驾驶、远程医疗、大规模机器通信等5G典型应用对移动网络的可靠性提出了更高的性能要求,而当前针对移动网络的可靠性理论及新技术研究是5G增强网络（B5G）研究面临的关键难题之一。本论文主要基于随机几何理论针对移动异构网络的可靠性理论及分析开展研究,重点解决以下难题:（1）异构网络密集化导致小区间干扰更加复杂且强度大,加剧了网络可靠性保障及提升的难度,同时可靠性分析也缺乏基本理论支撑;（2）异构多层组网导致网络节点分布更加随机化,与传统六边形蜂窝模型差异显著,实际部署缺乏理论建模指导。本文基于随机几何理论,以成功概率与Meta分布为出发点,构建移动异构网络可靠性性能分析的理论框架模型,以此为基础深入开展移动异构网络的可靠性能分析研究。文中首先针对“空域协作”组网场景开展表征网络平均可靠性的成功概率分析,又针对更广泛的“空域协作”组网技术开展链路可靠性的Meta分布分析。然后,进一步研究空-时域互相结合的“空时协作”组网场景,分析该场景下表征链路可靠性的Meta分布。最后,将Meta分布理论分析框架模型从单用户场景拓展到多用户场景,理论上首次推导出多用户（或位置）的联合Meta分布,并将该理论应用于物理层安全、多用户协作场景的理论分析。本文的主要研究内容及创新点总结如下:（1）文中构建了移动异构网络的随机几何分析方法理论框架模型,基于此开展了“空域协作”组网场景下移动异构网络协同多点传输/接收（Coordinated multipoint transmission/reception,CoMP）相干联合传输（Joint transmission,JT）方式的网络平均可靠性分析研究。文中首先基于成功概率和Meta分布的基本概念构建了理论分析框架模型,分析了Gil-Pelaez方法、Beta近似方法等几种Meta分布的有效计算方法,通过Meta分布与成功概率的对比,证明了 Meta分布包含更细粒度的链路可靠性信息。然后,针对移动异构网络下行链路,构建异构协作网络数学模型,定义一般用户和最坏情况用户两类典型用户模型,理论分析了表征网络平均可靠性的成功概率等基础性能指标。利用随机几何理论分析支持相干JT的一般用户和最坏情况用户的信干比（Signal-to-interference ratio,SIR）性能;利用Alzer不等式等数学定理,推导出成功概率的上界和近似解。最后,通过数值计算和蒙特卡洛仿真验证了所推导理论上界的准确性,为实际网络部署提供了理论指导。（2）针对移动异构网络“空域协作”组网场景,首次分析推导出移动异构网络不同基站协作组网方式的Meta分布。本文将（1）所构建的异构协作网络模型推广到多种不同的下行CoMP协作组网技术,包括JT和动态节点选择/静默（Dynamic point selection/blanking,DPS/DPB）。文中基于Meta分布性能指标重点分析了 JT和DPB结合的更具有一般普适性的技术方案JT-DPB等。首先,推导出一般用户和最坏情况用户条件成功概率的b阶矩;然后,给出JT-DPB方案两类用户的平均本地时延,观察到平均本地时延从有限值跳变到无限值的相位转移现象,并给出其发生相位转移的临界值;最后,利用Gil-Pelaez方法和Beta近似方法通过b阶矩求解,并分析上述多种不同协作组网方案的Meta分布。理论分析结果表明,相较于成功概率,Meta分布提供了更精细化的链路级可靠性信息,能更显著呈现多种协作组网方式的性能差异,并揭示了不同方案的优势以及不同网络参数对其性能的影响。（3）针对空、时域互相结合的“空时协作”组网场景,提出“空域协作”JT-DPB和“时域协作”混合自动重传请求（Hybrid automatic repeat request,HARQ）相结合的组网方案,首次推导出移动异构网络不同类型HARQ技术表征链路可靠性性能的Meta分布。针对移动异构网络下行链路,文中推导出Type-IHARQ（独立尝试）和Type-Ⅱ HARQ（追逐合并）两类HARQ技术与“空域协作”JT-DPB的相互结合方案下两类用户条件成功概率的b阶矩,并利用Beta近似方法由b阶矩获得Meta分布的分析结果。针对Type-Ⅱ HARQ,构建了一种简化的异构网络模型,并给出了 b阶矩的紧密上界,仿真验证了该模型具有良好的精确性和普适性。最后,理论分析结果显示空时协作之间的平衡组合可以达到最佳的用户链路性能;协作集基数越大,简化异构网络模型近似效果越好;与Type-Ⅰ HARQ相比,Type-Ⅱ HARQ在重传次数为2的情况下具有与重传次数为3的Type-Ⅰ HARQ相当的性能,为实际网络的空时协作组网应用提供了链路可靠性的理论支持。（4）针对多用户无线组网场景,将Meta分布理论分析模型从单用户场景拓展到多用户场景,理论上首次推导出多用户（或位置）的联合Meta分布,还将该理论应用于物理层安全、多用户协作接收场景的理论分析。文中首先给出n阶联合Meta分布、联合条件成功概率和简化的n阶乘积Meta分布的一般化定义。重点研究两用户的2阶乘积Meta分布在一维、二维泊松蜂窝网络中的相关性质,推导出联合条件成功概率的b阶矩,为乘积Meta分布提供基础分析方法。然后,开展了 2阶联合Meta分布理论在物理层安全和协作接收方面的理论应用研究,主要关注下行链路。针对物理层安全场景,构建典型合法用户和附近的窃听者的联合性能分析模型,推导出条件机会安全频谱接入概率的Meta分布。针对多用户协作场景,分析推导出其条件协作成功概率的Meta分布。理论分析结果表明,对于较大的SIR门限,不能忽略用户之间的SIR相关性,联合Meta分布分析框架能够支持在涉及多个链路时对无线网络进行精确的性能分析,对实际网络部署具有重要意义。当窃听者与合法用户之间的距离增加时,网络的链路可靠性也会提高,并且逐渐接近无保密通信约束的Meta分布。