随着低轨通信卫星的不断发展,世界范围内正掀起利用低轨卫星建设卫星互联网星座的热潮。OneWeb、SpaceX、Telesat和Kepler等许多商业航天公司都加入了部署低轨卫星互联网星座的阵营,期望提供全球化的宽带服务。低轨卫星系统可以大幅减小通信延时和电波传输损耗,系统性能也将更加稳定,但低轨卫星使用的Ku、Ka等频段也被在轨的静止轨道（Geostationary Orbit,GSO）卫星大量使用,容易形成系统间干扰。随着低轨卫星互联网星座的大量部署,其与GSO卫星系统间的频率兼容问题将日益突出。本文首先分析了卫星系统间同频干扰的关键研究点,包括同频干扰的引发、场景建模的关键因素、干扰评价指标及计算,以及干扰的统计和分析。其次,提出了联合禁区与自适应波束控制的下行干扰减缓方法,包括对NGSO卫星禁区进行定义和数学建模、提出卫星波束的重叠判定准则、设计与禁区模型匹配的自适应波束控制方法、利用MATLAB和卫星工具箱（Satellite Tool Kit,STK）的联合编程技术对干扰减缓方法的有效性进行验证。再次,提出了基于自适应分隔角的上行干扰减缓方法,包括自适应分隔角的策略设计、以One Web和SINOSAT-5系统为例进行软件仿真、从多个维度讨论分析干扰的特性,并验证上行干扰减缓技术的有效性。结果表明,所提出的联合禁区与自适应波束控制的下行干扰减缓方法以及基于自适应分隔角策略的上行干扰减缓方法可以有效降低GSO卫星和地球站接收端的I/N值、干扰频次、干扰概率以及通信链路的C/（N+I）恶化,能够用于NGSO卫星系统对GSO卫星系统的保护。本文的研究结果可作为卫星系统间频率兼容研究的理论依据和技术支撑。