近年来，非线性现象越来越受到人们的重视，在实际工程中常常遇到大量的非线性问题，但是与线性系统不同的是，对于非线性系统还没有一种统一的描述形式。多年的理论研究和实践工作表明，Volterra级数模型是一种十分有效的非线性模型，工程实际中有很大一类非线性系统都可以由Volterra级数模型表示。 首先，介绍了Volterra级数理论，包括Volterra级数理论的提出和发展，以及用Volterra级数描述非线性系统的条件。 其次，研究了基于Volterra级数模型的非线性系统的自适应辨识问题，提出了基于Volterra滤波器的自适应算法，讨论了步长因子的确定问题以及对算法收敛性的影响。通过用Volterra自适应滤波器对非线性系统建模的实例，证明了这种方法的有效性。 为了解决观测噪声对系统辨识的影响，提出了总体最小均方自适应算法。考虑到自适应过程中存在的非线性耦合问题，提出了多级Volterra滤波器的概念，并证明了它与分块解耦Volterra滤波器的等价性。 最后，用多通道自适应格形滤波器对非线性信道进行了自适应均衡处理。在数字通信中，由于码间干扰和噪声的影响，使得在接收端收到的信号产生畸变，有必要使用均衡器进行处理。本文采用多通道自适应格形滤波器对非线性信道进行处理，取得了比较好的效果。