子空间聚类方法通过将数据分割到对应的子空间中来揭示高维数据潜在的子空间结构.子空间聚类在计算机视觉和机器学习等领域具有广泛应用,比如目标识别,运动分割,人脸聚类,图像分割等等.　　现实中的高维数据具有这样显著的特点:高维数据并不是毫无结构的,高维数据在本质上位于低维子空间的并集上.基于这样的事实,子空间聚类方法以谱聚类算法为基础,利用子空间表示来对高维数据聚类.子空间表示模型对于聚类效果有重要的影响,本论文主要集中于子空间聚类表示模型的建模、求解算法,并探索其在人脸聚类、手写字体聚类和图像分割上的应用.其中图像分割就是将图像分成互不相交、具有不同视觉意义的若干区域,图像分割时需要利用图像的特征数据,从而把图像分割问题转化为数据的聚类问题,因此子空间聚类方法为图像分割提供了一种良好的方法.　　本文主要工作包括：第一,提出了一种新的子空间表示模型称为相关自适应加权回归模型,该模型在表示系数上施加显式的数据相关自适应惩罚项,该惩罚项是加权的l1-范数和l2-范数的组合,从而将子空间表示公式化为相关自适应加权正则问题.它可以被看作是一种对稀疏子空间聚类（SSC）和最小二乘回归（LSR）的自适应插值方法,插值结果依赖于数据的相关性.该模型具有解是块对角和群组效应的性质,这两种性质使得模型不仅具有良好的子空间选择能力,还可以将高度相关数据聚类到一个子空间中.第二,利用非凸函数表现的稳定性和鲁棒性,提出一种利用非凸trace Lasso和非凸低秩的子空间表示模型.非凸trace Lasso能够自适应局部地正则化子空间表示而非凸低秩约束提供了子空间表示的全局惩罚.所提模型能够自适应地捕捉子空间表示的全局及局部结构,从而子空间表示可以揭示数据真实的子空间结构获得良好的聚类性能.通过大量的实验以及客观指标表明,所提出的两种模型在人脸聚类和手写字体聚类上取得良好的聚类效果:在图像分割实验上,分割结果符合人类视觉,客观指标也表明相比其他方法,本文方法更准确.因此本文所提的两种子空间表示模型是解决子空间聚类问题的一种较好的方法.