随着通信系统的飞速发展,人们对高数据速率通信的要求逐渐显著,由于地面网络在偏远覆盖区域等的局限性,卫星网络系统作为补充与地面网络系统一起为人们提供高效、便捷的通信服务。LEO(Low Earth Orbit,地球低轨道)卫星通信系统有着通信距离短、路径损耗低等优点弥补了GEO(Geostationary Orbit,地球静止卫星轨道)卫星的不足而得到更多的应用。由于频谱资源的有限性,LEO卫星和GEO卫星需要共享相同的频谱资源,因此双层卫星通信网络需要通过频谱共享来解决频谱稀缺问题,扩展卫星宽带业务,最终提高频谱利用率。本文对GEO/LEO双层卫星通信网络下行链路进行同频干扰分析和干扰避免技术的研究。首先,对双层卫星通信网络的发展和同频干扰避免的国内外研究现状进行了综述。针对目前频谱资源的利用情况以及国际上针对双层卫星通信网络频谱共享的规格标准与建议,将共享频段的研究确定在Ka频段。然后分析了几种干扰避免技术并针对它们的优缺点进行分析与比较,为后文研究功率控制算法和认知跳波束算法提供了理论依据。然后,详细研究了在双层卫星通信网络中同频干扰的影响因素。将从时间、空间和频率三维模型进行通信节点共存分析,然后在同频干扰条件下,用时间变化来表示LEO卫星运行过程中的空间坐标来进行干扰分析。根据干扰特性提出使用波束功率控制技术来避免同频干扰,但由于波束功率控制算法模型的非凸性,所以只能得到局部最优解,因此针对波束功率控制模型的特点提出优化功率控制算法,利用分式规划将多比值和的问题进行优化,在避免对GEO网络干扰的同时,提高LEO通信网络的性能。最后,由于功率控制技术在提高LEO系统性能方面具有一定的局限性,以更多可用资源灵活分配为启发,提出了使用认知跳波束算法来进行干扰避免。首先提出使用基于动态频率复用的认知跳波束算法,该算法通过合理的分配LEO卫星跳波束的跳频序列,并对跳波束序列进行动态频率复用,在避免对GEO系统干扰的同时,减小LEO卫星多波束间干扰。动态频率复用的认知跳波束算法虽然能减小对GEO卫星系统的干扰,但是在针对LEO用户请求合理分配波束容量方面仍然不够灵活。然后提出了基于距离门限的认知跳波束算法,在设置距离门限的基础上设计跳波束序列,在避免对GEO网络干扰的同时,提高LEO系统波束容量分配的灵活性。