论文部分内容阅读
随着科技的发展和大数据时代的来临,聚类作为一种典型的无监督机器学习方法近年来受到了众多研究者和工程技术人员关注。从数据所含视角数量的角度可将现有聚类方法简单地分为单视角聚类和多视角聚类两个类别。基于图嵌入的聚类方法是聚类领域的主流方法之一,虽然近几十年学者们提出了众多基于图嵌入的单视角聚类和多视角聚类方法,但是这些方法仍然存在一些缺陷。例如现有基于图嵌入的单视角聚类方法主要存在以下缺陷:1)普遍无法得到捕获数据内在结构的仿射图;2)对噪声鲁棒性弱,在噪声数据中聚类性能显著下降。现有多视角聚类方法,特别是基于图嵌入的多视角聚类方法,由于模型设计上的缺陷大多无法处理视角缺失情形下的多视角聚类任务。本文主要研究基于图嵌入的聚类方法,旨在提出更为鲁棒和灵活的图嵌入聚类模型来解决上述缺陷并提高聚类性能。具体地,本文主要提出了如下聚类方法:(1)针对传统图嵌入方法无法捕获数据内在结构的问题,提出了一种基于低秩表示和自适应图正则的仿射图学习方法。该方法在低秩表示框架中引入基于距离的正则项和非负图约束项,从而能够充分地利用数据的全局表示信息和局部距离信息来指导仿射图的构建;为了确保所得到的仿射图具有精确的连通分量,该方法还在模型中引入了拉普拉斯图的秩约束。通过将以上这些约束和低秩表示融入到一个联合优化框架,该方法能够自适应地从数据中学习到捕获数据内在结构关系的仿射图,进而得到更好的聚类结果。在仿真数据集和真实数据集上的实验结果验证了该方法的有效性。(2)针对现有基于图嵌入的单视角聚类方法大多对噪声鲁棒性弱的问题,提出了一种基于自适应加权非负低秩表示的鲁棒仿射图学习方法。通过对现有基于表示的仿射图学习方法进行分析,发现这些方法在仿射图学习的过程中同等地对待所有特征,使得噪声或离群点干扰甚至主导了自表示仿射图的学习。基于此发现,该方法在自表示的仿射图学习模型中引入加权矩阵约束,使得模型能够自适应地增强重要特征在表示中的贡献,同时削弱噪声的不利影响,进而提高对噪声的鲁棒性;此外,该方法还引入了局部距离约束和非负图约束,不仅使得模型能够同时充分地利用数据的局部和全局信息来指导仿射图的构建,而且还能提高仿射图的解释性。在多组噪声污染下的仿真数据集以及真实数据集上与多种聚类算法进行对比,实验结果表明所提出的算法不仅能够获得更好的聚类效果,而且提高了对噪声的的鲁棒性。(3)针对多视角数据中存在视角缺失的问题,提出了一种基于图嵌入的不完备多视角聚类方法。该方法基于低秩表示模型从现有的未缺失的样例中自适应地学习各个视角的仿射图,并利用矩阵初等变换技术将这些图扩充到同样的维度;为了得到多个视角间一致性的低维表征,该方法还引入了谱聚类约束和协同正则约束。通过对模型的联合优化,该方法能够有效地削弱视角缺失所引起的负面影响,同时充分地利用多视角间的多样化信息和互补性信息来指导一致表征的学习,从而得到更好的聚类效果。在多个不完备数据集上的对比实验验证了该方法在不完备多视角聚类任务上的有效性。(4)现有不完备多视角聚类方法普遍存在如下两个制约性能的缺陷:1)忽略了视角鉴别信息的不平衡性;2)没有充分地利用多个视角间的互补信息。为了克服以上两个缺陷以及提高聚类性能,针对性地提出了一种基于图嵌入和视角推理的不完备多视角聚类方法。该方法在矩阵分解模型中引入基于特征近邻的拉普拉斯约束来恢复缺失的视角信息,这不仅使得多个视角能够自然地对齐,便于模型更好地利用多视角的互补信息,而且有利于使用恢复的缺失视角信息来指导模型的训练;为了挖掘数据的局部信息,该方法引入了反转图约束项,该项的引入还有利于得到更合理的缺失视角;考虑到不同的视角可能含有不同程度的鉴别信息,该方法引入自适应的视角加权项来平衡各视角在模型训练中的作用,从而更充分地利用多视角的多样性信息。在特殊视角缺失和视角任意缺失两种条件下的不完备多视角聚类实验对比结果表明所提出的方法能够有效地提高聚类性能。综上所述,本文针对现有基于图嵌入的聚类方法存在的缺陷提出了多种更为鲁棒和灵活的图嵌入聚类模型,并从理论角度深入地分析了所提出的聚类模型的合理性,在多个数据集上与多种性能优异的聚类方法的实验对比结果验证了本文所提出的聚类模型的有效性。