高光谱遥感将表征地物辐射属性的光谱与反映地物空间分布和几何特性的图像有机结合在一起为地物的准确识别和精细分类提供了强有力的手段。随着应用领域的不断拓展和应用需求的逐步升级,高光谱遥感体现出信息定量化的趋势。然而,混合像元的广泛存在不仅影响地物的识别和分类精度,而且严重阻碍高光谱遥感技术向定量化方向深入发展。光谱解混作为解决混合像元问题的关键技术之一,已经成为当今高光谱遥感应用领域里的一个研究热点。本文基于线性光谱混合模型对光谱解混涉及到的端元提取和丰度估计算法进行了系统深入的研究,研究工作主要包括以下几个方面：1.端元提取是光谱解混的关键步骤。传统的端元提取方法仅分析影像数据的光谱信息,忽略了遥感影像的二维空间特性,这类方法易受噪声和异常信号的影响进而导致端元提取精度下降。为此,本文提出一种结合正交子空间投影和局部空间信息的端元提取算法。该算法立足于凸面单体理论,将正交子空间投影和单体体积分析方法结合实现序列地提取端元。在端元提取过程中,引入局部空间光谱相似性限制以提高算法对噪声及异常信号的稳健性,同时避免了利用整个二维影像空间信息进行端元提取带来的巨大运算量。此外,在单体体积计算过程中,使用了无需降维的体积计算公式,以避免降维带来的信息损失。实验结果表明,与传统的基于光谱的端元提取算法相比,本文算法可以有效提高端元提取的精度,对于噪声和异常信号都具有较强的鲁棒性。2.全约束线性光谱解混通常归结为凸优化问题,需要高级的优化技术求解,从而导致较高的时间复杂度。高光谱遥感影像涵盖地物类型多、光谱数据量大的特点进一步增加了解混的计算量。为了解决此问题,本文提出一种基于子空间投影的几何解混算法,该算法将像元的丰度解译为该像元向量关于端元单体的重心坐标确保了丰度的全加性约束,并将行列式Laplace展开应用于重心坐标计算过程以降低算法的运算量。对于不满足丰度非负性约束的混合像元,该算法利用子空间投影方法以迭代的方式实现全约束丰度估计。算法在迭代求解过程中严格遵循最小二乘准则。实验结果表明,与经典的全约束最小二乘解混算法相比,本文算法具有相同的光谱分解精度；在地物类型较多的高光谱遥感影像上,本文算法具有更好的计算性能。3.针对端元识别方法应用于不完全满足纯像元假设的影像时存在端元提取精度低的缺陷,本文将端元识别方法和端元生成方法有效结合,提出了一种结合纯像元识别和约束非负矩阵分解的两阶段光谱解混算法。第一阶段利用基于纯像元假设的端元识别方法获取初始候选像元,然后对同质区内的候选像元进行主成分分析进而确定纯端元。第二阶段利用非负矩阵分解算法提取虚拟端元。考虑到非负矩阵分解容易陷入局部最优,本文引入单体顶点距离平方和约束与丰度和为一约束来克服这一缺陷,同时将纯端元作为先验知识引入非负矩阵求解以提高算法收敛速度和混合像元分解精度。实验结果表明,本文提出的算法能够给出端元光谱及其分布的精确估计。