论文部分内容阅读
数据分类是模式识别和数据挖掘等领域的研究热点。随着互联网的普及,实际应用中所面临的分类数据不仅数据量大而且呈现出较高的维度,给数据分析带来很多不便。如何对这些数据提取有效特征是我们面临的首要问题。流形学习和度量学习都是典型的非线性特征提取方法,已广泛应用于分类问题中。但传统流形学习和度量学习都只能用于单个领域。由于web应用领域的飞速发展,数据更新速度快,新领域层出不穷。新领域中的训练数据往往是有限的不足以满足传统分类方法对训练数据量的要求,标注新数据或重新训练模型都会带来巨大的成本。如何利用已有的相关辅助域中的标记数据帮助新领域学习有效的分类模型是学者们一直关注的问题。流形对齐算法是解决上述问题的一种潜在方法。流形对齐将来自不同领域的高维数据同时投影到一个共同的潜在低维空间中,同时保持流形间的对应关系和流形自身局部几何结构不变,从而实现迁移学习。传统的流形对齐算法需要充足的对应点信息挖掘不同流形样本点之间的联系。但是,在数据分类问题中,一般只有训练样本的标签信息,而没有数据集之间的对应点信息。如何利用标签信息,挖掘不同领域数据之间的关联性,是将流形对齐应用于跨领域数据分类的关键问题。本文以分类问题为研究背景,利用标签信息挖掘不同流形样本点间的联系,并提出基于标签信息的流形对齐算法。此外,将流形学习和度量学习结合,改进数据分类的准确性。进一步的,将度量学习与流形对齐思想结合,将度量学习应用于跨领域数据分类。具体研究内容如下:1.提出基于标签空间映射的流形对齐算法。算法通过样本标签信息和局部几何结构重构每个样本点的特征,并结合余弦相似性计算流形间样本点的相似度。保持目标域局部几何结构和流形间的相似性不变,将源域和目标域同时投影到共同的标签空间。在计算目标域未知类别样本的低维嵌入的同时获得样本类别而不需要用到分类器。在几个数据集上的分类实验验证了基于标签空间映射的流形对齐算法的有效性。2.提出基于近邻元分析的半监督局部线性嵌入算法。算法将度量学习与流形学习结合起来,充分利用样本标签信息结合度量学习学习新的距离度量方式以准确挖掘样本局部几何结构。保持这种样本局部几何结构不变,将样本投影到低维空间。实验证明,该算法能得到良好的降维效果,将低维嵌入结果输入分类器能得到较好的分类结果。3.提出基于近邻元分析的半监督流形对齐算法。算法借鉴近邻元分析和流形对齐的思想,将原来单个数据集上的近邻元分析模型推广到两个流形上,结合两个流形上的标记数据,在两个流形上同时分别学习合适的度量矩阵,将两个流形投影到类别区分度更明显的低维空间。在一些数据集上的实验证明了该方法在分类问题中的有效性。