卫星通信是未来天地一体化网络中不可缺失的重要部分,目前正向着更高速率和更高系统吞吐量的方向发展,高通量卫星系统也应运而生。高通量卫星系统主要采用了多波束技术和频率复用技术,相比于传统通信卫星系统吞吐量提升了一个数量级。高通量卫星系统吞吐量提升的同时,也引发了相邻波束间严重的同频干扰问题。因此,本文将重点研究高通量卫星系统中同频干扰的抑制问题。本文首先研究了高通量卫星系统结构,并在此基础上对高通量卫星系统中严重的同频干扰机理进行分析。随后,针对高通量卫星系统反向链路的同频干扰问题,本文考虑采用多用户检测算法进行抑制。多用户检测算法种类繁多且差距较大,本文从算法误比特率、实现复杂度等方面入手。通过理论分析以及实验仿真,对相关多用户检测算法进行探讨,主要研究成果如下:高通量卫星一般采用Ka等较高频率,其会受到比较严重的降雨衰减影响。本文首先建立包括大气因素在内的高通量卫星反向链路信道模型,考虑在高通量卫星反向链路采用多用户检测技术,运用该技术在接收端对接收到的信号进行处理以达到抑制同频干扰的目的。本文考虑线性多用户检测算法和非线性多用户检测算法。针对典型多用户检测算法都需要复杂的求逆矩阵的问题,本文考虑引入数学方法,期望在较低复杂度的情况下求取逆矩阵,且保证误比特率不会显著降低。在高通量卫星通信系统中,用户干扰与用户在波束中的位置有关。同频干扰用户数量增多时,典型多用户检测算法不能辨别出多个用户信号,接收端无法正常解码。因此本文还探讨基于搜索的多用户检测算法。以线性检测算法结果为初始值,在其相邻向量中搜索更优向量,进一步降低误码性能,但计算复杂度比较高。考虑采用缩减邻域算法和邻域选择规则以在较小搜索的范围内找到更有向量,进而降低搜索算法复杂度。在降低搜索算法复杂度的基础上,提出了不局限于固定搜索域的搜索多用户检测算法,获得更优的误码性能。