论文部分内容阅读
对高维空间中的数据进行分类、压缩、和可视化是比较困难的,其主要难题在于要找到一种维数减少的数据来代表高维的原始数据。本文中,我们探讨用一种实用性比较强的贝叶斯方法来进行特征提取。主要是应用高斯过程潜变量模型(GPLVM)来解决数据降维问题。Matlab实现用的数据是一组52维基因表达数据集。本文将阐述高斯过程潜变量模型作为一个概率降维方法如何能够找到高维数据和低维流形结构之间的非线性映射。用Matlab对数据集进行特征提取实验,首先是用(GPLVM)进行降维,然后用(PCA)做比较。在本论文中,我们系统地介绍和讨论了高斯过程作为一个可以减少变量(特征)数目的降维工具,数据降维通常分为两个部分:特征选择和特征提取。数据降维方法可以理解为对数据进行预处理然后再用其他的算法进行其他的任务,这样可以有效地减少数据处理过程中的计算量和防止维数灾难的发生。本文的第一章做了一个概述,简单的介绍了研究意义和背景,讨论了为什么我们需要把有意义的特征提取出来,并丢弃其他无关紧要的特征,我们也介绍了一些目前比较常用的特征提取方法,例如独立分量分析(ICA)和主成分分析(PCA),主成份分析的主要思想是把高维空间的数据点投影到低维空间中去,同时保持尽可能多的原来信息。第二章介绍了关于高斯过程和特征提取一些基本知识和概念,如GP的分类,近似和内核函数,以及如何选择特征的预备本知识。第三章是这篇论文中主要工作所在,重点讨论了潜变量模型与其在减少数据集维数的使用,对高斯过程潜变量模型做出了详细的说明并且给出了其必要的数学背景,例如高斯过程潜变量模型如何进行降维等等。高斯过程潜变量模型是一种无监督非线性降维方法,类似于PPCA、MDS、GTM等方法,GPLVM使用高斯过程建立从低维隐空间到高维空间的映射关系,通过最大化观测数据的联合密度,优化出高维数据在隐变量空间中的坐标位置,从而达到特征提取目的。本文的最后一章对癌症药物成分数据所做的实验工作进行了阐述,介绍了实验数据,给出了实验结果以证明高斯过程潜变量模型降维方法的有效性,对实验结果也做出了分析。本文用Matlab软件实现了降维算法并在数据上进行了实验,以验证算法的优势,随后也用了PCA方法对同样的数据集做了实验,本论文突出了高斯过程潜变量模型作为一个无监督的概率降维方法的特点。最后对本论文的内容进行了总结与讨论。