论文部分内容阅读
核自适应滤波器(KAF,Kernel Adaptive Filter)是一类通过核方法实现函数逼近的非线性滤波器。在核方法中,输入空间的内积运算可由再生核希尔伯特空间(RKHS,Reproducing Kernel Hilbert Space)的核方法有效的实现。关于KAF的研究现状,目前主要从优化准则、滤波结构和控制网络尺寸三个方面探究KAF的性能。核自适应滤波算法的优化准则主要包括最小均方误差准则(MMSE,Minimum Mean Square Error)和最大相关熵准则(MCC,Maximum Correntropy Criterion)两大类。其中,MMSE在高斯环境下可取得最优性能,而MCC能够有效地抵抗非高斯环境的异常值。KAF的滤波结构主要包括前馈和反馈两种结构。在反馈结构中,历史信息的引入能有效地提高滤波性能。然而,KAF的网络结构是线性增长的,因此具有较大的空间和时间复杂度。在控制网络尺寸方面主要包括样本稀疏化和结构稀疏化两类方法。样本稀疏化方法在牺牲一定滤波性能的前提下,采用阈值规则降低了空间和计算复杂度。然而,其网络尺寸是动态变化的。不同于样本稀疏化方法,结构稀疏化方法采用具有固定尺寸的网络结构实现了核函数的近似,因此同样降低了算法复杂度。基于以上三方面,本文提出了两种提高滤波精度的策略和控制网络的增长的方法。(1)提高滤波精度的策略之一。在本文中,为了获得较高的滤波精度和鲁棒性,将反馈结构结合到核递归最大相关熵算法中,产生了具有多重反馈的核递归最大相关熵算法(KRMC-MF,Kernel Recursive Maximum Correntropy with Multiple Feedback)。为了减少计算复杂度,将输出的单延迟结合到核最大相关熵算法中,产生了一个简化版的反馈滤波器,即基于最大相关熵准则的线性递归核在线学习算法(LRKOL-MCC,Linear Recursive Kernel Online Learning Under Maximum Correntropy Criterion)。由于KRMC-MF和LRKOL-MCC都利用了历史信息和最大相关熵准则,因此能够实现期望的滤波精度和鲁棒性。(2)提高滤波精度的策略之二。反馈滤波器的设计是一件繁琐且耗时的工作。因此,为了减少反馈网络的复杂度,且同时提高滤波器的性能,本文提出了一种尺度调节的核在线学习算法(KOL-SA,Kernel Online Learning Algorithm with Scale Adaptation)。在KOL-SA中,首先将系数向量分解为方向向量和模,然后采用梯度下降法分别对两者进行更新。与基于带反馈结构的核自适应滤波器相比,KOL-SA采用的系数分解方法能够有效地降低计算复杂度同时实现滤波精度的提高。(3)控制网络增长的策略之一。为了有效地控制网络结构增长,随机傅里叶滤波(RFF,Random Fourier Filter)首先将输入进行随机傅里叶映射,然后采用变换后的输入以及一组固定维度的权重来实现网络输出的估计。将MCC引入随机傅里叶空间,产生了一个鲁棒的最大相关熵随机傅里叶滤波算法(RFFMC,Robust Random Fourier Filter Under Maximum Correntropy)。为了进一步提高脉冲噪声下的收敛性能和鲁棒性,从所有训练数据中随机选择一个固定数量的输入数据来构造一个随机批量(Random Batch)最大相关熵算法,从而产生RB-RFFMC。RFFMC和RB-RFFMC能够在固定尺寸的网络结构下提高滤波器的鲁棒性。(4)控制网络增长的策略之二。虽然RFF具有优越的滤波性能,但是其变换后的输入数据独立于变换前的输入。因此,当样本数据具有较大的相关系数会使得RFF的性能降低。Nystr?m方法是一种具有良好逼近和泛化能力的近似方法。它通过采样技术从核矩阵中随机选择少量列向量用以近似原始核矩阵。为了在固定尺寸的网络下获得更好的滤波性能,本文将Nystr?m近似引入到核递归最大相关熵算法中提出了Nystr?m近似的核递归最大相关熵算法(KRMC-NA,Kernel Recursive Maximum Correntropy with Nystr?m Approximation)。