高光谱遥感成像是一种新型的对地观测技术。成像光谱仪能够记录数十至数百个波段的光谱信息，使得对各种类型地物的准确分类与识别成为可能。然而，因为二维平面的分辨率的约束作用，高光谱图像中的一个像元可能含有几种不同类型的地物，形成了所谓的“混合像元”，直接影响了后续地物的检测与识别。光谱解混技术能够将“混合像元”分解为几种基本类型的地物光谱向量(即端元)与其对应的混合比例(即丰度)的乘积，从而获得亚像元信息，进而提高后续数据应用的效果，最近在遥感领域得到了普遍关注。非负矩阵分解（Nonnegative Matrix Factorization, NMF）将一个非负矩阵分解为两个非负矩阵的乘积，其分解模型与混合像元解混模型相似，非常适于解决光谱解混问题。然而，基于基本NMF算法的高光谱图像解混算法是一个欠定问题。为了得到唯一确定的解混结果，需要加入正则约束消除其欠定性，针对该问题，本论文在研究流形学习的基础上，挖掘高光谱数据的先验信息，设计了多种流形正则下的非负矩阵分解解混技术。具体工作如下：(1)针对现有NMF解混算法仅利用了高光谱数据的光谱信息，忽略了高光谱数据空间信息的缺陷，设计了一种基于空-谱流形正则的NMF高光谱数据解混方法。构造局部窗挖掘高光谱数据的空间信息，设计基于空谱流形正则的半监督NMF解混算法。在人工合成高光谱数据和实际高光谱数据上进行试验，对于S3NMF的各个正则参数的选择、算法的收敛性、对于解混出的端元和丰度进行对比分析、算法的鲁棒性分析和在含有不同端元数的高光谱数据解混结果分析结果表明：本方法在数值指标方面、视觉效果方面和算法的鲁棒性均优于CNMF、GLNMF等方法。(2)针对高光谱图像特性中的稀疏先验，设计了一种基于稀疏多流形正则的非负矩阵分解高光谱数据解混方法。高光谱图像中的混合像元仅由有限多种地物的光谱向量混合产生，基于这种稀疏性，以及稀疏编码系数相近的像元具有相近丰度向量的假设，构造稀疏流形正则，设计基于稀疏多流形正则的非负矩阵分解高光谱数据解混算法（MMSNMF）。实验中将与S3NMF等方法的高光谱解混结果进行对比，在人工合成高光谱数据和实际高光谱数据上进行试验，结果表明：本方法相比前面的方法解混的在数值和视觉方面的效果有了一定的提高。(3)针对现有NMF解混算法未充分挖掘图像空间信息的局限，设计了一种基于相似性流形正则的非负矩阵分解高光谱数据线性解混方法。采用邻接权值计算权值的方法比用在K-近邻中用热核函数获得更加准确的像元空间关系信息，针对高光谱图像中光谱之间相似性的特性，引入相似度函数对光谱信息的相似度特性进行描述。构造相似性正则，设计基于相似性流形正则的非负矩阵分解高光谱数据线性解混方法（SMNMF）。实验中将本方法与MMSNMF等方法的高光谱解混结果进行对比，在人工合成高光谱数据和实际高光谱数据上进行试验，结果表明：本方法相比前面方法，在解混的数值和视觉结果方面均有了一定的提高。本文的工作得到了国家重点基础研究发展计划（973计划）： No.2013CB329402，国家自然科学基金61072108，60601029，60971112，61173090)，新世纪优秀人才项目：NCET-10-0668，高等学校学科创新引智计划（111计划）：No. B0704，教育部博士点基金(20120203110005)，武器装备预研基金项目(9*****)，以及华为创新研究计划项目(IRP-2013-01-09)的资助。