高光谱图像具有集空间和光谱信息于一体的特点,同时是高光谱遥感领域研究的热点。由于高光谱传感器的低空间分辨率容易导致采集到的高光谱图像形成大量的混合像元,这将对高光谱图像分析产生不利影响,为了解决这一问题,高光谱图像的解混算法应运而生。高光谱解混的目的是将混合光谱分解成一组参考光谱(端元,可以描述场景中出现的宏观材料),以及它们在每个图像像素中所占的比例(丰度)。尽管近些年已经发展了大量的高光谱解混算法,但准确估计端元特征和丰度仍然是一个很大的挑战。线性光谱混合模型假定端元之间互相独立,是一个描述混合像元现象的有效模型。非负矩阵分解因与线性混合模型有相似的结构,在高光谱解混中得到广泛的应用。由于基于非负矩阵分解的高光谱解混目标函数的非凸性,在求解过程中往往会陷入局部极值,影响最终的解混结果。针对传统非负矩阵分解的高光谱解混易受初始值和噪声的影响,本文做了一系列改进,主要的研究内容和创新点如下:第一,针对基于非负矩阵分解的高光谱解混存在的容易陷入局部极小值和受初始值影响较大的问题,提出一种正交和稀疏约束相结合的非负矩阵分解的高光谱解混算法。首先,从传统的基于非负矩阵分解的高光谱线性解混方法出发,分析高光谱数据本身的理化特性,然后,结合丰度的稀疏性和端元的独立性两个方面,将正交非负矩阵分解和稀疏非负矩阵分解两种方法结合应用到高光谱解混当中。模拟和真实实验数据表明,这种方法在同类算法的比较中取得了较好的解混效果。第二,针对传统的单层非负矩阵分解处理复杂高光谱数据效果不佳的问题,提出一种基于梯度优化稀疏约束多层非负矩阵分解的高光谱解混方法。首先,分析了多层非负矩阵分解相较于传统单层非负矩阵分解方法在处理高光谱数据方面的优势,然后,优于多层非负矩阵的多层结构和神经网络多层结构类似,因此结合神经网络中的梯度优化对多层非负矩阵分解的分层结构进行预处理,预处理能够有效降低初始值的影响,最后通过模拟数据实验和真实数据实验验证了算法的有效性。