卫星星间链路技术是卫星通信以及下一代立体空间网络的重要组成部分，被视为解决卫星通信领域空间组网的有效手段之一，目前该技术得到了国际上的广泛重视，对该领域的研究已成为热门。相对于地面无线通信，星间链路通信具有通信距离长、通信延时大的特点，并且由于卫星体积和发射功率的限制，星载功率放大器一般工作在饱和区域，从而导致卫星发射信号具有非线性干扰大的特点。其次，星载功率放大器由于长时间工作，会受到记忆性干扰的影响。此外，星间链路的主要工作频段已经集中于Ka或Ku频段，较高的频段也会加深信道的记忆码长度并且加深非线性干扰。本文针对非线性干扰对星间链路的影响进行了研究，具体研究成果如下：1、针对星载功率放大器会工作在饱和区而产生的非线性失真，提出了一种后置于功率放大器的预失真算法，通过抽样更新预失真器系数从而实现卫星发射信号的线性化，并对该方法的性能进行了仿真，当预失真器的阶数足够大时，该方法可以消除大部分非线性干扰。2、针对现有的预失真器的计算复杂度较高的特点，提出了一种利用两个一阶Volterra滤波级联来代替三阶Volterra模型的双循环反馈预失真算法。在该算法中，我们利用输入信号和衰减后的功率放大器输出信号分别作为期望信号，建立了双循环预失真模型。并将两层循环预失真模型进行融合，从而实现预失真器系数的更新。该方法可以有效的加快预失真器的收敛速度，并能快速完成星间链路的建立。3、针对功率放大器在高阶信号调制下非线性干扰较大的特点，提出了一种神经网络预失真算法。该算法通过将发射信号进行幅度和相位分离处理，从而得到实数层面的神经元输入信号，并在神经网络输入层中加入了反馈因子，从而可以有效降低神经网络隐层的层数并实现高阶信号调制下的高精度非线性消除。4、针对星间链路自身的非线性特性和记忆特性，提出了一种可用于高载频和高速传输的盲信号均衡算法，该算法通过多个Volterra滤波级联建立稀疏滤波矩阵来完成接收信号的干扰消除。仿真结果表明，在高速星间链路通信条件下，该算法可以有效实现接收信号的线性化处理和背景噪声的抑制，具有很好的实际应用价值。5、为了提高频谱资源的利用率和星间链路抗干扰能力，本文设计了一种可用于星间链路的中继转发抗干扰技术，该技术主要用于无星上处理能力的星间链路通信环境下的中继转发。在不采用码分多址和频分多址技术的前提下，通信卫星所接收到的信号经过匹配滤波器仍为包含自身发射信号的混合信号。在不采用预失真和盲均衡处理的条件下，提出了两种解调算法从混合信号中解调出所需信号。其中，全查表算法通过将包含自身信号和未知信号的接收信号的算术平均值作为查找表中的元素进行存储，通过接收信号与查找表比对的方法来判决所需信号。而自信息消除算法通过延时寄存器将自身所发射的信号消除来实现最终判决。仿真结果表明，两种方法均能有效实现星间链路中继转发并具有较强的抗干扰能力，但自信息消除算法在计算量上较小，更加适合于实际的星间链路通信系统。本文的研究工作将为星间链路非线性干扰消除打下理论基础，对星间链路通信系统的优化设计提供理论依据。