由于受到传感器空间分辨率的限制以及自然界地物的复杂多样性的影响,高光谱遥感图像中存在大量的混合像元。混合像元的普遍存在会影响地物的识别和分类精度,同时增加地表参数反演误差。光谱解混技术是解决混合像元最有效的途径,一直以来是高光谱遥感领域研究的热点。有学者尝试性的将稀疏表示理论应用于高光谱遥感图像混合像元分解领域中,利用少量系数捕获到数据的主要信息和内在几何结构,对混合像元分解取得了一定的效果。本文在现有的稀疏约束混合像元分解的基础上,考虑到解混过程中丰度的稀疏性和空间聚类的结构特征,建立联合近似稀疏约束和全变差正则化模型,并将其应用于高光谱混合像元分解中。主要的研究内容有：1.用已知光谱库取代光谱端元集合,以近似L0范数为稀疏性度量因子,建立高光谱遥感图像解混的近似L0稀疏性正则化非凸变分模型。利用变量分裂增广拉格朗日算法,研究近似L0正则化的高光谱遥感图像解混变量分裂问题的数值求解方法。提出基于近似稀疏的混合像元分解方法(APSSU),与经典的基于L1范数的SUnSAL算法相比,具有更好的稀疏性和稳健性。同时通过模拟实验和真实数据实验证明,APSSU算法能够更好的估计出端元丰度值,得到了更精确的解。2.通过将一阶非同位全变差(Total Variation, TV)模型引入到稀疏性约束的解混问题中,提出基于近似稀疏与全变差正则化的高光谱解混模型(APSSU-TV),能够更好的利用高光谱影像的空间领域信息,提高解混精度。该模型将近似稀疏作为稀疏性的目标函数,TV正则化因子作为平滑性目标函数,通过ADMM算法对其求解。通过模拟实验和真实数据实验,本文所提出的APSSU-TV算法对混合像元分解,比SUnSAL算法和SUnSAL-TV算法获得更好解混的精确度。