论文部分内容阅读
人工神经网络是由大量简单的非线性基本单元——神经元相互连接形成的非线性动力系统,从数学的角度看,人工神经网络就是一个函数逼近器。而基于小波的函数逼近,也是由大量简单的非线性基本单元——小波函数的伸缩和平移——线性组合构成的,由于小波具有良好的时频局部性以及多尺度特性,在函数逼近中表现出良好的性质。小波与神经网络的结合的产物——小波神经网络,同时具有小波和神经网络的优点,在图像处理,信号分析,模式识别等诸多领域获得了广泛的应用。本文在仔细分析小波性质和神经网络理论的基础上,对小波网络的相关问题进行了研究:1.改进了小波网络的学习算法。神经网络的学习算法是神经网络研究中的热点和难点。对于小波网络,原始的反向传播算法不能充分利用小波的特性,因此仍然面临着学习速度慢的难题。本文中的多尺度算法,受到多重网格的启发,并充分利用了小波函数的多尺度特性。该算法用Mallat分解和重构算法构造插值算子和限制算子,并利用插值算子和限制算子将网络权值在不同尺度之间变换。数值实验的结果表明,该算法显著的改善了网络的收敛速度,在训练相同次数的前提下,该算法的误差比原始的反向传播算法明显减小。2.研究了函数稀疏逼近问题的小波网络解法。由于基于小波网络的函数逼近是一个不适定的问题,通过附加权值稀疏约束的正则化项,可以促使解稳定。本文仔细分析了稀疏化的概念,研究了能够近似度量稀疏化程度的正则化项——能量窗口。利用小波构造的冗余字典和正则化方法,本文将函数的稀疏逼近问题转换为Tikhonov泛函的极值问题,简化了稀疏逼近问题的解决方式。数值实验证明了该方法的有效性,也比较了不同的正则化项和正则化参数对结果的影响。