北斗和5G（5th Generation Mobile Communication Technology）系统同属国家重要基础工程,北斗卫星无线电测定业务（Radio Determination Satellite Service,RDSS）是中国北斗的特色服务,其工作频率邻近5G系统,且接收功率远小于5G功率,易受到干扰影响正常工作。同时,随着城市规模的不断发展,异构网络（Heterogeneous Network,Het Net）模型也变得更加复杂,北斗用户在移动过程中极易穿越不同5G小区的覆盖范围,从而影响其受扰情况。为了确保北斗RDSS接收机的正常运行,研究移动通信系统与北斗RDSS系统之间的邻频干扰问题是具有非常重要的学术研究价值的。论文立足5G系统对北斗RDSS系统的干扰共存问题进行了一系列的研究:1)在确立邻道干扰抑制比（Adjacent Channel Interference Ratio,ACIR）作为核心评估模型的基础上,从5G系统、RDSS信号体制、RDSS用户机3个维度出发抽取重要影响要素,运用确定性分析法得到了两系统间稳定运行的安全距离;采用蒙特卡洛系统仿真法分析了北斗RDSS用户机在受扰情况下的载噪比（Carrier-to-Noise power spectral density ratio,CN0）衰减、定位、通信等不同方面的变化情况。2)深入分析了北斗RDSS系统的信号体制及接收机滤波器的频谱特性,设计了3种不同类型的射频前端,并在实际信号条件下对比了各自的抗邻频性能。3)基于泊松硬核分布（Poisson Hard Core Process,PHCP）的干扰建模与分析,采用随机几何的方法对不同场景下的干扰共存问题进行了理论研究,并仿真评估了不同场景下两系统干扰共存的结果。4)在充分考虑了多普勒频移、北斗用户移动速度、服务基站切换等影响因素下,系统的分析了动态北斗用户穿越5G小区过程中的受扰变化情况,并得到了用户载噪比衰减与北斗用户移动速度的关系。论文给出了保护我国北斗RDSS系统与其它系统邻频干扰共存的条件,并提出了针对具体干扰场景中合理的系统间干扰共存的保护方法,为有关部门制定相关保护政策、提前规划通信器件的参数设计提供了支撑及建议。通过论文的研究可总结出邻频系统的兼容共存技术措施,提升受扰系统的电磁防护能力,对于北斗系统和5G系统的兼容共存有重要意义。