近年来,结合了非正交多址（Non-Orthogonal Multiple Access,NOMA）技术的协作星地混合网因其能保留传统卫星通信中广阔覆盖的优点,同时能为海量地面端用户提供更可靠的、更有效的频谱接入方式而获得了广大学者的极大关注。中断概率（Outage Probability,OP）作为评判系统中接入用户获得可靠服务的一项性能指标,已被用作为衡量结合NOMA协作星地混合网的关键性能分析测度。遗憾的是,现有针对该网络的中断性能分析类参考文献仅局限研究下行单天线且单中继场景,并且其涉及的的固定功率分配方式很难实现用户性能的最大化。此外,尽管部分参考文献考虑到通过结合认知无线电（Cognitive Radio,CR）技术以进一步提升网络的频谱效率,但这些文献主要考虑单天线配置,并且在次网中总需要部署专门的中继节点。事实上,当某些用户可用作为潜在中继时,即可不必部署专门的中继节点从而提高频谱效率和节省系统开销。因此,本文将针对目前尚未研究的一些场景（特别是针对多天线单中继、多中继单天线、结合多天线的CR、上行传输这四大场景）,建立新的系统模型,同时考虑采用更高效的功率分配方式以保证用户性能最优。更重要的是,本文在分析中断概率时,将重点考虑并分析之前文献中常被忽略的诸如残余硬件折损（Residual Hardware Impairment,RHI）、不完全串行干扰消除等实际因素对系统性能的影响。具体工作包括:1、针对单中继场景,提出新型中继系统模型,其中包含一个多天线中继,负责对两个与卫星有着不同链接状态的地面端用户间的通信。并且,考虑到之前文献中提及的放大转发（Amplify-and-Forward,AF）方式总是基于实时信道状态信息（Channel State Information,CSI）而难以保证在实际通信场景中实现,考虑基于统计CSI的固定增益（Fixed-gain,FG）放大转发中继方式。此外,基于该新的多天线中继系统模型,提出新型译码转发（Decode-and-Forward,DF）方式,以提升系统的中断性能。更重要的是,为验证所提系统的理论性能,将分别推导出不同转发方式下两用户的精确与渐进中断概率表达式。2、针对尚未研究的多中继场景,提出新型DF多中继系统模型,该模型可实现用户型中继与专用中继相结合的中继转发。同时,提出新型中继选择与动态功率分配方案,可实现整个系统中断概率（Whole System OP,WSOP）最小,同时可为系统中与卫星有着不同链接状态的两个地面端用户,分别提供完全的分集增益（Diversity Order,DO）。值得一提的是,在对结合NOMA技术的协作星地混合网的性能分析中,将首次同时理论分析用户中断概率与系统中断概率这两种性能测度。3、针对尚未研究的多天线认知无线电场景,根据Underlay与Overlay这两种常见的认知无线电模式,分别提出基于多天线的新型中继模型。其中针对Underlay场景,重点考虑多天线技术应用在无专门中继且用户可能作为另一用户中继的场景中,同时提出一种新型中继方式,使两个用户可分别作为对方的潜在中继,从而提升系统中用户间的公平性,并保证两用户都能通过用户间中继获得全分集增益。另一方面,针对Overlay场景,提出结合多天线的新型中继方式,同时提出结合最优功率分配以及利用第一跳译码结果作为先验的新型译码方式。针对Underlay与Overlay两种模式分别推导出精确与渐进中断概率表达式。4、针对尚未研究的上行场景,考虑更加一般的信道模型,即第一跳为地面端两个多天线用户与中继之间的通信,服从α-μ分布,而第二跳则为中继与卫星之间的通信,服从κ-μ阴影分布。同时,提出新型串行干扰消除（Successive Interference Cancellation,SIC）方案与新型功率分配方案,来有效解决上行SIC译码存在的错误平层（Error Floor,EF）问题。根据推广后的信道模型,分别推导新方案下两用户的精确与渐进中断概率,并求解对应的分集增益。