高光谱遥感图像具有高光谱分辨率、图谱合一和光谱波段多的特点,能够提供丰富的地球表面信息,因此被广泛的应用于土地利用、资源调查和自然灾害监测等领域。但是,由于高光谱遥感图像空间分辨率限制和地物分布的复杂多样性,图像中包含了大量的混合像元,不利于像元级的数据处理和分析。为了更好地利用高光谱数据,提高遥感应用的精度,必须对混合像元进行分解,提取不同地物的端元,并求得每种端元对应的丰度。在高光谱遥感图像中,地物的空间分布具有不同的特点,分布广泛的地物含有纯像元,而分布稀少的地物则只能以亚像元形式存在。该类图像带来的处理难题是如何精确提取所有地物的端元,并进行有效的光谱解混。当不同的地物极为贴近或者具有不同空间层次的地物同时存在时,非线性光谱混合现象也往往不能忽略。另外,地物光谱数据库的非完备性以及偏远地区地面真实测量难以实现等因素,使得端元的自动获取也比较困难。本文围绕高光谱遥感图像解混技术,针对高光谱图像存在的上述几个问题展开研究。主要的研究工作包括：(1)针对现有光谱解混算法存在难以同时有效提取亚像元和纯像元级地物端元的不足,提出了一种凸面几何理论和非负矩阵分解(nonnegative matrix factorization,NMF)技术相结合的有限光谱解混算法。首先,通过基于凸面几何理论的端元提取方法提取纯像元端元候选像素集合。然后,根据纯像元和混合像元分布特点的不同,计算候选像素的空间纯度指数以判断纯像元端元。进而,对NMF方法作适应性修改,提出部分非负矩阵分解(partial NMF,PNMF)算法,构造相应的目标函数,推导迭代求解过程,通过分解求得亚像元端元光谱和所有端元的丰度。实验结果表明,所提出的有限光谱解混方法能够弥补现有光谱解混算法的不足,实现对纯像元端元和亚像元端元光谱的有效提取。(2)针对高光谱图像中端元个数过多导致非线性混合像元分解方法比较耗时和丰度估计不够精确的问题,提出了一种结合空间信息的非线性混合像元分解算法。首先,利用无约束最小二乘法逐像元估计端元丰度,并在此基础上得到初步高光谱图像分类图。然后,根据相邻像元内地物分布的空间相关特性,选取适当大小的局部窗口确定每个像素的真实端元集合。最后,对双线性混合模型进行改进,基于改进的双线性混合模型,将混合像元分解问题转换为约束的二次规划优化问题,并采用有效集方法进行求解。综合仿真结果和真实高光谱图像实验结果,通过利用空间邻域信息,非线性光谱混合分析技术的计算代价大幅度降低,并且丰度的估计精度得到了提高。(3)针对非线性光谱混合模型比较复杂且参数难以确定的问题,采用核函数方法,通过非线性映射将原始高光谱数据映射到高维特征空间,使混合像元在特征空间中可以用线性混合模型表示。进而结合NMF算法和核学习理论,构建核NMF (kernel NMF,KNMF)算法,并对高维特征空间中映射后的数据进行解混。同时为了使得解混结果趋于唯一,考虑到高光谱数据在高维特征空间中仍然构成单形体结构以及丰度分布的平滑性特点,在KNMF算法中引入两个辅助约束,即单形体体积约束和丰度平滑约束。合成数据及真实高光谱数据集的实验表明,所提出的约束KNMF算法相比线性解混算法能够得到更好的端元光谱和丰度估计结果。