无线通信发展的背后始终伴随着一个不断激化的矛盾,即不断增长的业务需求一直挑战着日益匮乏的无线资源承载的极限。为了解决这一矛盾,高资源利用效率的无线通信技术不断涌现,从蜂窝概念到感知无线电,乃至多网络共存技术。但是,这些技术仍未跳脱通信系统可靠性与有效性的矛盾,大多数技术是在现有成本和科技水平的约束下在可靠性与有效性之间找到一个较优的权衡。因此,这些技术在提高资源利用率的同时也降低了信号之间的正交性,不仅引入大量同信道干扰,而且将干扰问题从单天线、点到点信道、参数固定的无衰落或平坦衰落信道的单干扰源问题演变为多天线、多跳信道、参数任意的频率选择性衰落信道多干扰源问题。本论文围绕干扰模型、性能指标和分析方法这三个要素展开研究,旨在解决以下四方面的科学问题：无线网络同信道干扰建模,无线网络同信道干扰性能刻画,干扰受限系统性能评估以及同信道干扰性能分析方法在铁路移动通信系统中的应用。本论文综合运用了随机理论、非线性估计、随机点过程、Fox’s H函数及Fox’s H分布等数学工具。在分析无线通信系统衰落现象和同信道干扰现象生成机理的基础上,本文首先建立具有普遍适用性的同信道干扰模型。通过定义不同的参数,干扰模型可以分别描述不同干扰受限场景,如不同信道环境(平衰落信道、选择性信道、不同信道增益)、不同干扰源数目(单干扰源、多个独立同分布干扰源、多个参数任意独立干扰源)、不同合并接收方式(等增益接收、选择性接收、最大比接收)。针对有基础设施网络自干扰场景、无基础设施网络和多网络共存的互干扰场景以及铁路专用移动通信系统场景,分别提出复杂度低且具有普遍适用性的干扰性能解析分析方法,并通过解析表示从本质上解释影响干扰性能的关键因素和干扰现象的基本规律,研究干扰受限系统参数配置的内在联系,给出系统性能的解析表达,为网络规划和优化奠定基础。本文主要工作如下：(1)在有基础设施网络内部自干扰性能分析方面,论文首先设计迭代算法,给出存在多个参数任意的Nakagami-m干扰源时,干扰受限系统中断概率的迭代表达。其次,为了更全面地解决参数任意的随机变量代数运算的统计问题,论文证明了级联信道可以等效为一条简单的点到点信道,且低阶Fox’s H函数是高阶Fox’s H函数的特例。基于此定理并结合Fox’s H函数和Fox’s H分布的普遍适用性和统计特性,提出多个参数任意的Fox’s H变量之和的分布估计算法,给出任意信道中,基于Fox’s H函数的任意参数独立多干扰源性能解析研究方法,推导出多个参数任意的干扰源存在时的总干扰和信干比的概率密度函数、累积概率分布及一阶统计特性的估计算法和解析表达。另外,考虑到干扰现象的时变特性,论文从衰落现象的本质出发,将Rice模型拓展到更多类型的衰落信道中,并应用Fox’s H函数积分定理推导出任意信道中,信干比二阶统计量的解析表示。(2)在以无基础设施网络和多网络共存的互干扰网络为例的分布式网络中,干扰区域和干扰源分布都与有基础设施自干扰网络中的情形产生很大的变化,是除了无线信道之外影响干扰性能的两个重要因素。为了区分干扰区域和干扰源分布对干扰性能的影响,论文分别考虑单干扰源和多干扰源存在时两种网络环境。单干扰源网络中,论文着重考虑干扰区域对分布式网络干扰性能的影响,依据干扰区域与服务区域之间相对位置不同,建立同中心和异中心两种分布式网络干扰模型。对于同中心分布式网络中,本文应用Fox’s H函数的普适性和统计性质,考虑不同维度空间内,任意信道环境下同信道干扰统计性能的闭合表示。在异中心分布式网络中,本文基于空间几何理论,给出了同信道干扰统计性能的解析表示。多干扰受限网络中,着重分析干扰源分布对干扰性能的影响,分别讨论了无限范围和有限范围干扰区域中,存在非同分布独立多干扰源时,不同维度空间内同信道干扰性能解析表示。(3)通过分析干扰受限系统性能指标与信干比之间的定量关系,应用Fox’s H函数和Fox’s H分布的数学性质,将干扰受限无线通信系统性能分析问题归结为性能指标的加权平均问题,给出任意参数信道环境中,干扰受限系统性能指标的解析表示。给出任意参数信道环境中,干扰受限系统差错概率、中断概率和信道容量等性能指标及其高阶统计量的解析表示。然后,为了考察上述具有普遍适用性的同信道干扰性能分析方法的可行性,论文将其应用到铁路专用移动通信系统干扰性能分析中。由于铁路路轨宽度远远小于铁路长度,铁路正线无线网络呈现链状覆盖特性,且移动性也是影响铁路专用移动通信系统性能的关键因素之一,论文结合铁路专用移动通信系统实际工程要求,着重考虑链状覆盖模式和列车移动对无线通信系统的影响,建立干扰受限铁路移动通信系统模型,分别研究外部同信道干扰和移动环境中网络内部自干扰对铁路专用移动通信系统性能的影响。