聚类是现代机器学习研究的一种重要的数据分析方法,在数据挖掘、模式识别等领域有着广泛的应用,其目的是通过得到的类或簇来寻找数据集和数据的特点并对数据进行处理。为了弥补原始聚类的方法一些不足,提升聚类方法的性能,很多学者提出了相关的改进方法。在众多改进算法中,基于图正则化的聚类算法由于其优越的聚类性能而获得了广泛的关注,其通过利用数据中隐藏的流形结构信息来提升原始聚类算法的性能。具体而言,基于图正则化的聚类算法构建拉普拉斯（Laplacian）图来利用原始数据中的流形结构,然后将Laplacian图融入到原聚类算法的目标函数中,从而提升原聚类算法的性能。显而易见,图构建的好坏对基于图正则化的聚类算法的性能有着重要的影响,然而,现有的算法在构建图的过程中,其图的构造是预先指定的,且图的构造和原聚类算法的目标函数是独立的。通常这些算法都需要进行多次调参才能找到一个较好的图。因此,本论文对基于图正则化的聚类算法开展进一步地研究,通过构造自适应图来进一步提升算法的性能,本文的主要研究成果如下:（1）本文对聚类方法的相关知识进行了详细的阐述,对基于图正则化的方法如何提升原有聚类方法的性能进行了介绍,并对其中的两种改进方向即图正则化稀疏编码算法（graph regularization sparse coding,Graph SC）与图正则化非负矩阵分解算法（graph regularization nonnegative matrix factorization,GNMF）进行了细致的说明;同时,本文还总结了一些经典的基于图正则化的聚类算法,并通过真实数据集上的实验分析了算法的性能。（2）提出了自适应正则化稀疏编码（graph regularization sparse coding with adaptive neighbour,Graph SCAN）算法。对Graph SC算法进行了进一步地研究,由于Graph SC使用K近邻方法（K nearest neighbor,KNN）来构造Laplacian图,而KNN构造的图并不能完全拟合数据。因此,本文提出了Graph SCAN算法。该算法首先使用自适应方法构建合适的局部Laplacian图,然后将其加到稀疏编码的目标函数中,从而将图的构建和稀疏编码纳入到统一框架中,使得图的构建与稀疏编码的运算同时迭代进行。同时,文中也给出了一种求解Graph SCAN的有效算法,并通过在两个图像数据集上的实验验证了算法的有效性。（3）提出了一种自适应图正则化的低秩非负矩阵分解算法（nonnegative low-rank matrix factorization with adaptive graph neighbors,NLMFAN）。针对现有GNMF算法中的不足之处:一是,GNMF算法并没有考虑数据的低秩结构;二是,在GNMF算法中,其拉普拉斯图是使用KNN方法预先定义的,而KNN方法无法总是获得最优图解,从而使得GNMF算法的性能不能达到最优。为了解决这些问题,本文提出了NLMFAN算法。一方面,通过引入低秩约束,使得NLMFAN可以获得原始数据集的有效低秩结构;另一方面,设计了一种通过自适应求解相似度矩阵的方法来进行图的构建,即图的构造和矩阵分解的结果被融入一个整体的框架中,使得图中节点的相似性是自动从数据中学习得到的。此外,文中还给出了该算法的求解框架,在CLUTO及UCI数据集上的通过实验证明了该算法的优越性。（4）提出了一种自适应邻居的多图正则化非负矩阵分解（multiple graph regularized nonnegative matrix factorization with adaptive neighbors,MGNMFAN）。GNMF只构造单个Laplacian图来近似数据的流形结构,使得其无法准确捕获隐藏在数据中的几何结构;此外,其Laplacian图通常使用k NN方法来构造,而该方法可能破坏原始数据的局部连通性,并且无法获得最佳近邻。为了解决这些问题,我们提出了一种新的算法模型,即MGNMFAN算法。MGNMFAN不仅使用自适应方法来构造单个的Laplacian图,还使用带有自动权重参数的多个Laplacian图的线性组合来更好地拟合原数据的固有流形结构。本文也给出了一种求解MGNMFAN的有效算法,在多种图像数据集上的算法对比实验验证了算法的聚类能力。