聚类分析是数据挖掘领域中重要的研究手段之一,其主要目标是在没有先验信息的情况下,把一个数据集的样本分为不同的类别,使得同一类内的样本相似性尽可能地大,而不同类内的样本差异性尽可能地大。聚类具有无监督学习特性,所以在众多领域都得到广泛的应用。然而,传统的聚类算法受“维度灾难”的影响,处理高维数据时往往性能不尽如人意。子空间聚类算法是传统聚类算法在高维数据上的扩展,基本思想是将原始数据空间分割为不同的子空间,从子空间中寻找不同类别存在的可能性。然而,子空间聚类算法存在难以保持数据非线性和局部几何结构的问题,针对这些问题,本文对基于自表示的子空间聚类算法展开研究,主要研究成果如下:（1）已有的比例缩放单纯形表示子空间聚类算法采用约束系数矩阵向量和,来保证系数矩阵的稀疏性,然而,该算法对数据的局部几何结构考虑不足,针对此问题,提出基于比例缩放单纯形表示和图正则化的子空间聚类算法。在原有的算法框架下,引入图正则化项,利用拉普拉斯特征映射进行流形学习获得数据局部几何结构,再利用近邻图影响系数矩阵的生成。采用交替方向乘子法对模型进行求解,在人工数据集、UCI数据集和图像数据集上的实验表明,所提算法有较好的性能。（2）块对角表示子空间聚类算法提出k块对角正则项,直接约束系数矩阵的块对角结构。然而,该算法强制系数矩阵等于其转置矩阵,使得系数矩阵满足正定对称的条件。因此,样本点损失自表示能力,导致该算法对高维数据的聚类效果较差。针对该问题,提出基于块对角表示的二次规划子空间聚类算法,引入二次规划正则项约束系数矩阵正定,增强系数矩阵的块对角结构和稀疏性。在不同数据集上的实验结果验证了基于块对角表示的二次规划子空间聚类算法对聚类问题的有效性。