论文部分内容阅读
信号的表示是信号处理领域最为基本的问题,信号内容的有效表示是信号处理应用开展的基础。表示的有效性是指用很少的数据捕获感兴趣目标的重要信息的能力,即稀疏表示的能力。我们用稀疏逼近取代原始数据表示可从实质上降低信号处理的成本,从而提高信号处理的效率。信号的稀疏表示是在20世纪90年代提出来的,它是信号处理领域中的一种新的方法。作为信号研究的一个分支,稀疏表示理论广泛应用于图像的去噪,修复,分割,插值,压缩,采样,检测,识别等等。稀疏表示模型非常强大,因为它有非常坚实的数学理论基础,这个特性让它有了各种广泛的应用。同时,稀疏表示模型的通用性和灵活性使得它适用于各式各样的数据。总之,稀疏表示模型让图像和信号处理任务变得更加简单明了。本文对信号的稀疏表示基本技术进行了研究和学习,主要是基于Lp范数稀疏分解算法和基于L0范数的稀疏编码算法,并将其分别用在经典的图像降噪问题和手写数字的识别中。论文的具体安排如下:首先介绍稀疏表示的国内外研究现状;然后回顾了稀疏表示和神经网络相关的基本数学理论;最后重点研究了Lp范数稀疏分解算法和基于L0范数的稀疏编码模型其在手写数字识别中的应用,具体内容如下:1)、研究了基于Lp范数的稀疏分解算法,我们借助于加权L1范数和L2范数的可分替代函数迭代收缩算法,用N个一维独立目标函数去近似取代加权Lp范数和L2范数的联合优化模型。但是由于这些一维独立目标函数是非凸的,所以近似优化模型就会有多于一个的局部最优解,因而要找到这些一维独立目标函数的全局最优解并非是件容易的事。为了解决这一问题,本文首先识别目标函数在可行域中不同区域的凸特性符号(是凸的还是凹的),这样一维独立目标函数在每一个区域中都有不超过一个的静态点。然后找到每一个一维独立目标函数在每一个区域的最优解,也即就找到了近似目标函数在整个可行域中的全局最优解,从而找到原优化问题的近似全局最优解。数值仿真结果验证了加权Lp范数和L2范数的联合优化模型会比存在的加权L1范数和L2范数的联合优化模型和光滑L0范数优化模型具有更好的性能。2)、研究了基于L0范数的稀疏编码模型在手写数字识别中的应用,目前最为常用和有效的手写数字识别算法是稀疏自动编码神经网络。当稀疏自编码神经网络的隐藏层单元较大时,通过BP算法得到的稀疏特征不够稀疏,从而影响了整个网络最终的性能。在这种情况下本文提出了一种更加有效的手写数字识别算法,也即基于L0数的稀疏编码算法。当固定算法中的字典时,我们用正交匹配追踪算法求解每一个训练样本对应的稀疏表示系数;当固定每一个样本对应的稀疏表示系数时,我们就用最优方向算法来更新字典。数值仿真结果显示,通过本文所建议模型得到的分类精度要比稀疏自编码神经网络得到的更高。