近年来,图像分类已应用于众多领域,如信息安全、远程遥感、目标追踪等。众所周知,特征抽取对数据分类特别是模式分类起着特别重要的作用。特征抽取不仅降低了数据的复杂性而且有效地提高了分类精度,但不同的数据往往需要不同的特征抽取方法,如何针对不同的数据抽取其有效的特征是目前图像处理和模式识别中所需要解决的关键问题之一,同时也是本文的研究重点。本文针对图像分类,提出了一些新的线性与非线性的分类算法。本文研究工作主要概括如下。(1)针对特征抽取与图像分类,提出了一种新的流形回归学习框架,并在这一框架下提出了流形鉴别回归学习(MDRL)和鲁棒流形鉴别回归学习(RMDRL)两种算法。MDRL引入类内图和惩罚图,利用获得的投影矩阵将数据投影到一个新的子空间,使得同类样本更紧凑,不同类的样本距离更远。通过添加基于核范数的正则项,RMDRL学习到的低秩变换矩阵能有效提高最小二乘回归等方法的鲁棒性。(2)提出一种新的带有鉴别性的非负矩阵分解方法:非负鉴别矩阵分解(Nonnegative Discriminant Matrix Factorization,NDMF)。NDMF方法将数据的低维表达投影到子空间中用于鉴别子空间的学习,并将NMF中的基矩阵与系数矩阵的信息加以结合。NDMF方法充分考虑了鉴别性、局部性及基矩阵的正交性。也就是说,NDMF方法将非负约束、正交约束及鉴别性统一到同一目标函数中,并将基矩阵和系数矩阵结合在一起作为正则项提高分类性能。同时,本文还给出基于欧氏距离测度与Kullback-Leibler(KL)散度的两种优化算法。(3)传统的NMF方法对含有噪声的数据分类时,分类效果常常不太理想。为解决这个问题,我们提出了一种新的基于投影学习的鲁棒NMF框架,即投影鲁棒非负分解(PRNF),该框架给出了现有鲁棒NMF方法的总结。PRNF不仅能够减弱噪声对特征抽取学习的影响,而且保留了原始数据的几何结构信息从而能获得更好的表达。在PRNF框架下,提出了三种具体的算法。这三种算法分别以1/2l,1l及2,1l范数作为噪声矩阵的稀疏约束,且同时给出这三种算法对应的迭代准则及收敛性分析。(4)通过将核方法与回归分析有效地结合起来,本文提出了核线性回归分类(KLRC)算法。由于KLRC通过非线性映射将数据映射到高维的核空间,可以很好地提高样本的可分性及获得高于LRC的分类精度。作为LRC的非线性扩展,KLRC能够很好地弥补LRC的不足。(5)为了有效地改进基于保持投影方法的鲁棒性,运用保持投影、稀疏性及低秩性来构造仿射图,在本文中提出一种全新的降维方法称为低秩保持投影(LRPP)。首先,假定数据是带有噪声的,且噪声矩阵是稀疏的,2,1l与核范数作为正则约束添加到噪声矩阵上;其次,将数据投影到由LRPP学习到的子空间中再进行分类。LRPP在降维过程中保留了数据的全局结构信息且学习到的低秩权重矩阵降低了噪声的影响。综上所述,本文为了提高分类效果和算法的鲁棒性,根据不同的应用场合提出了相应的特征抽取算法。经过大量的实验表明,本文的方法达到了预期效果,具有很好的应用潜力。