彩绘文物数量众多、色彩绚丽,是我国文化遗产的重要组成部分,具有丰富的历史价值和极高的科研价值。彩绘文物表面丰富的色彩是其主要特点,然而由于受到人为因素和自然因素的影响,表面会出现褪色、颜色层脱落等情况。因此,急需利用现代科学技术为彩绘文物色彩修复提供帮助。传统分析方法具有二次损伤,局部检测的缺点,而高光谱技术作为一种快速、无损的颜料识别方法近年来受到广泛关注。根据绘画技法,画家经常会使用多种颜料混合,彩绘文物表面丰富的色彩通常由不同种类的纯净颜料混合而成。随着高光谱成像技术在文物保护中颜料研究日益成熟,众多学者将高光谱解混的思想引入复合颜料的研究,将纯净颜料视为端元,通过高光谱解混算法,得到纯净颜料在文物表面的丰度图,从而为文物保护提供科学指导。但是,目前针对复合颜料高光谱的研究多基于线性混合模型,实际混合应为更为复杂的非线性混合,而且文物表面可能不存在纯净端元,表面色彩均由复合颜料形成,导致端元提取存在误差。基于以上问题,本文从预处理出发,研究了文物保护中地面高光谱人工光源的光强分布,提出了一种基于曲面拟合的反射率校正方法;针对复合颜料高光谱的非线性混合,研究了基于模型驱动的非线性解混,主要研究了Kubelk-Munk（KM）混合模型和Hapke混合模型,并提出了一种改进KM模型;针对文物表面不存在纯净端元的问题,研究了稀疏解混算法,并结合改进KM模型,提出了基于改进KM模型的稀疏解混算法。主要研究成果如下:（1）提出了基于曲面拟合的反射率校正方法。首先,针对文物保护中地面高光谱成像技术光源分布的特点,研究了人工光源的光强分布,发现其具有分布不均的特点。针对传统反射率校正中没有考虑光强分布的问题,提出了一种基于曲面拟合的反射率校正方法。然后,研究了两种不同的光强拟合模型,根据实验结果选择高斯曲面模型作为拟合模型。最后,通过对实验室均质样本和真实壁画进行实验,证明了在同类空间分布的光源下提出方法相比于传统反射率校正有着更高的精度。（2）提出了一种改进的KM模型。首先,研究了两种常用的光谱模型—Kubelk-Munk模型和Hapke模型。然后,针对中国传统彩绘文物中的特点,考虑基底特点和胶结材料,基于单常数KM模型,提出了一种改进的KM模型,将基底引入,一并计算丰度。最后,通过对实验室自制复合颜料样本的实验,发现提出改进KM模型在三种模型中具有最高的解混精度,且高于基于线性模型的解混精度。实验结果表明,提出改进模型可以有效将复合颜料高光谱的非线性混合转化为线性混合,从而提高线性丰度求解算法精度。（3）提出了一种基于改进KM模型的稀疏解混。区别于高光谱解混算法其他应用领域,文物中存在着自身独特特点—表面不存在纯净端元,即文物表面均由复合颜料组成。其特点导致传统解混流程（先进行端元提取再进行丰度求解）存在一定的误差。基于此,研究了稀疏解混算法,将光谱库视为端元的合集,从而省去端元提取的步骤。然而,由于稀疏解混仍为线性解混算法,直接利用于非线性混合中解混精度有待提高。结合提出的改进KM模型,本文提出了一种基于改进KM模型的稀疏解混,将反射率转化为吸收散射比再进行解混。最后,对实验室自制样本和一幅真实壁画分别进行了实验,以此验证提出方法的有效性。