现代社会的飞速发展对信号处理技术提出了新的要求,高效便捷的信号处理技术往往具有更为广阔的应用前景。自适应滤波作为现代信号处理技术的重要组成部分,在近几十年内获得了快速发展。虽然传统的自适应滤波算法在高斯环境中能够获得不错的收敛性能,但是对于实际系统而言,冲击噪声时常发生,从而导致自适应算法收敛性能降级,甚至造成算法发散的严重后果;未知系统的冲击响应通常具有稀疏的特性,利用这一先验知识能够显著提升自适应算法的收敛性能;当未知系统的期望信号被截尾时,传统的自适应算法往往会产生较大的偏差。针对以上的问题,本文对现存的自适应算法进行改进,提出了一些鲁棒的自适应算法,本文的具体工作可概括为:1.针对稀疏系统的背景噪声被冲击噪声干扰的问题,将M估计函数引入再加权零吸引最小均方（RZA-LMS）算法中,提出了一种鲁棒的再加权零吸引最小均值M估计算法。为避免收敛速度和稳态误差之间的权衡问题,使用梯度下降法推导出一种鲁棒的变步长方法对所提算法进行性能优化。为验证所提算法的收敛性,对其进行均方收敛性分析,得出步长参数的范围,为变步长方法提供指导。2.同样针对稀疏系统的鲁棒辨识问题,将M估计函数用于凸约束递归最小二乘（CC-RLS）算法中,推导出一种鲁棒的凸约束递归最小M估计算法（R3LM）。通过对规律函数和规律因子的选取进行分析,选取能够实现更优的收敛性能的参数。针对不同的稀疏系统,选择不同的稀疏约束项,所提算法的收敛性能也是不同的,R3LM为算法的设计留下了较大的选择余地。3.从概率论的角度出发,使用概率回归模型对截尾系统进行拟合,将LMM算法用于此概率回归模型的参数辨识中,并使用变步长的方法对所提算法进行性能优化。再对所提算法进行均值收敛性和均方收敛性分析,以得出使算法稳定的充分必要条件,并且推导出均方偏差的理论结果。通过计算机MATLAB软件的仿真实验,证明了本论文所提的几种自适应系统辨识算法的性能优越性。