由于线性滤波器理论基础成熟、数学分析简单、易于设计和实现,因而获得较为广泛的应用。然而,随着人们不断深入的研究发现,在卫星链路、高速通信信道、回声对消等存在非线性的场合,由于线性自适应滤波器本质上的缺点致使线性滤波器的滤波性能不理想。为了克服线性滤波器的缺点,提高系统性能,非线性滤波器理论逐渐成为研究的热点。近年来人们建立了多种非线性自适应滤波方法,如形态滤波器(Morphological Filter)、同态滤波器(Homomorphic Filter)、排序统计滤波器(Order Statistics Filter)、Volterra滤波器以及其他多项式滤波器等。其中Volterra滤波器综合考虑了系统的线性结构和非线性结构,十分适合构建各种系统的非线性模型,有着广阔的应用前景。同时,在实际应用中系统特征不可知或是时变的,无法事先知道滤波器的抽头长度,传统固定抽头长度的自适应算法无法满足系统性能要求,变抽头长度自适应算法也成为了研究的热点。本文主要研究Volterra滤波器的自适应算法,包括高斯噪声背景下Volterra滤波器自适应算法、α稳定分布噪声背景下Volterra滤波器自适应算法和变抽头长度自适应算法。首先,概述了Volterra滤波器的基础知识,为本文的研究工作打下基础。其次,研究了高斯噪声背景下Volterra滤波器自适应算法。为了提高高斯噪声背景下传统Volterra滤波器的最小均方误差算法收敛性能差的问题,本文提出了一类基于正交变换的二阶Volterra自适应算法,通过正交化输入信号,实现了二次项信号解耦,减少了二次项的权系数,简化了Volterra滤波器自适应算法。将本算法应用于信道均衡的仿真表明,还改善了均衡器的收敛性能,最后比较了五种正交变换的二阶Volterra滤波器自适应算法的性能。然后,研究了α稳定分布噪声背景下Volterra滤波器自适应算法。由于α稳定分布的厚重拖尾特性使得传统Volterra滤波器自适应算法收敛效果不理想。本文从两个方面着手研究。一方面研究了Volterra滤波器的自适应数据块算法,利用更多的输入信号和误差信号信息,同时对Volterra滤波器权向量的线性项部分和非线性项部分分别采用不同的收敛因子,改善稳态性能以及提高收敛速度。另一方面从Volterra滤波器结构出发,对输入数据进行分组排列降低复杂度,减少乘法的次数,同时每组对应的子滤波器权系数采用全解耦自适应调整算法,有效地降低了非线性项耦合的影响。最后,研究了变抽头长度自适应算法。在传统高斯噪声背景下FIR变抽头长度自适应算法研究基础上,提出了α稳定分布下变抽头长度最小平均P范数(LMP)算法,采用三个并行的滤波器比较数据段的平均P阶误差,每K点数据段更新一次抽头长度,数据段内滤波器权值采用LMP算法调整。同时,还研究了变抽头长度Volterra滤波器的自适应算法,运用分数抽头长度概念,对滤波器抽头长度进行自适应调整,用LMP算法自适应调整权系数。提出了α稳定分布下二阶Volterra滤波器变抽头长度自适应滤波算法。