无监督高光谱解混是高光谱遥感领域的研究热点之一，是高光谱遥感定量化发展的重要工具;同时也是众多高光谱应用的基础，例如高光谱图像理解和可视化、高光谱图像压缩和重建、精确的地物检测和识别、高光谱图像增强、亚像素映射和高空间分辨率的高光谱成像等。然而该问题仍具挑战性，主要源于如下三个方面的难点:(1)由于端元和丰度均未知，解混模型的解空间较大，算法容易陷入次优解;(2)高光谱图像易受噪声干扰，产生较多外点通道，影响解混精度;(3)在有关地物目标先验未知时，端元是一种主观的概念，缺乏明确定义。本文将针对上述诸问题，从如下几方面展开研究工作。首先，通过引入各种合理的先验（领域知识），构建更准确的解混模型，抑制不合理的解空间，进而得到较好的解混结果。其次，通过引入鲁棒性度量，防止过大误差主导目标函数，尽可能降低外点通道的影响。第三，提出一种快速子集选择方法，提供一套全新的方式理解（求解）高光谱端元;此外子集选择方法能去除外点通道的影响。具体而言，论文的主要工作和主要贡献总结如下:　　1.提出了一种基于结构稀疏约束的高光谱解混方法。其核心思想是引入结构稀疏约束，提升高光谱解混的精度。结构稀疏约束由两部分内容构成。首先，在像元空间层面，通过图普拉斯约束构建高光谱图像的结构信息，将同一局部邻域中的像元约束到具有相似的丰度。其次，在像元丰度层面，考虑到绝大多数像元仅由少数几种端元混合而成，论文进一步引入丰度稀疏约束以提升解混的精度。对比研究表明，本文所提方法能取得优于现有方法的解混结果。　　2.提出一种基于数据引导稀疏的高光谱解混方法。现有解混模型大多采用全局强度一致的稀疏约束，导致模型不够准确。在研究过程中，我们观察到各项约束的强度存在差异的现象，由此提出了一种基于数据引导的稀疏约束建模方案。具体地，首先从高光谱图像中学习一幅数据引导图，描述了各像元的混合强度。根据数据引导图，使用lp(0＜p＜1)-范数实现像元级稀疏约束——对于每个像元，p的取值完全取决于数据引导图中对应的像素值。该建模方案更加符合实际情况、建模更准确。大量的实验证实本文所提方法能够学到合理的数据引导图，并且可得到优异的解混结果。　　3.提出一种基于鲁棒重构和稀疏学习的解混方法。首先，针对高光谱图像可能包含外点通道的问题，采用基于l2,1-范数的误差度量，阻止过大的重构误差主导最终的目标函数，提升解混模型关于外点通道的鲁棒性。其次，提出了一种基于稀疏学习的解混方案。它能在更新过程中，同时学习数据引导图和解混结果，促进两者互为最优。数据引导图描述了各像元的混合程度。在引导图的帮助下，实现自适应强度的稀疏约束——每一项稀疏约束的强度和对应像元的混合程度高度吻合。与最新方法相比，本模型更符合实际情况。然而，目标函数非凸、非光滑，较难求解。针对该问题，本文提供了一套高效的优化方案，并系统地分析了该优化算法的收敛性以及计算复杂度。大量实验表明我们的方法比现有方法优越。　　4.提出一种加速的鲁棒子集选择方法。该方法能保留子集的核心（代表性）部分，去除冗余部分和噪音部分。一方面，从样本选择的角度，子集选择方法提供了一种求解高光谱端元的新方式，即将最具代表性的像元看作端元。另一方面，从特征选择的角度，该子集选择方法能保留核心特征，去除高光谱图像中的外点通道。当前，最新子集选择方法存在两方面问题:(1)模型不鲁棒，(2)算法速度比较慢。针对上述问题，本文采用基于lp(0＜p≤1)-范数的鲁棒性度量，防止过大重构误差主导目标函数。同时，通过引入增广拉格朗日（Augmented Lagrange Multiplier, ALM）方法和等价推导(Equivalent derivations，ED)，将子集选择的理论计算复杂度从原来的0(N4)降低到0(N2L)，其中N为样本个数，L为特征维度。大量的实验证明提出的方法具有上万倍加速的潜力。