高光谱图像不仅空间信息丰富,而且还具有精细的光谱特征,能为研究地物特性提供更加全面、细致的信息。异常检测作为高光谱图像处理领域的重要研究方向之一,主要任务是通过提取图像特征并加以分析,查找出与周围存在明显光谱差异的像元区域,由于其不需要任何先验光谱信息,实际应用价值更大,因此在农业、林业、军事等领域得到了广泛应用。然而现阶段想要精确高效进行异常检测依然面临诸多挑战:（1）高光谱图像地物复杂多样且分布散落,传统算法手动提取背景特征会受到异常污染,难以准确估计背景分布;（2）面对具有丰富空谱信息的高光谱图像,大多数异常检测算法只考虑了光谱特征,未充分利用空间信息。对于上述问题,本文分析了高光谱图像中背景与异常的数据特点,结合自编码器和Transformer这两个网络模型,设计了两种有效的异常检测算法,主要研究工作如下:1.针对高光谱图像背景成分复杂难以对其准确建模的问题,提出了一种基于光谱学习特征约束重建网络的高光谱异常检测算法。为了获取异常样本占比更少的图像数据集,形成半监督学习训练实例,利用构建的核孤立森林算法进行异常粗检测,进而获得相对纯净的背景样本集。在此基础上,根据背景通常服从高斯分布的特点,构造了一个基于光谱学习的特征约束重建网络来提取深层次背景特征,并对网络训练过程施加空间光谱重建损失和高斯约束损失,使潜在特征和重建输出都服从高斯分布,减轻混入异常对背景特征的污染,从而重建出与输入背景在空间和光谱维上都足够相似的图像,形成拟合程度较高的背景分布模型。该算法通过在相对纯净的背景样本集上学习其分布特征并进行重建,有效改善了复杂背景难以准确建模的问题。在四套真实高光谱数据集上进行实验,结果表明所提算法学习到的背景分布函数更加准确,有助于算法获得更优异的检测性能。2.针对现有多数研究只关注光谱特征而忽视空间信息,造成对于高光谱图像空谱联合信息利用不足的问题,提出了一种基于空谱联合双窗掩膜Transformer的高光谱异常检测算法。为了有效利用高光谱图像中丰富的空谱信息,构建了一个双窗掩膜Transformer网络模型,该模型从双视角提取空谱联合特征,在全局视角下利用具有全局感受野的多头自注意力模块聚集整个图像的背景信息来中和异常;在局部视角下通过构造的双窗掩膜多头自注意力模块挖掘内外窗口之间的特征信息去表征异常;两种视角的空谱联合特征相互融合,共同抑制异常重建,准确学习背景分布函数。此外,根据异常在训练早期重建误差较大的特点,为了进一步增强异常抑制效果,设计了一个自适应加权损失函数,在网络优化过程中对重建误差较大的像元求损失时,赋予该像元较小的权重来削减其对于训练总损失的贡献度,从而指导网络精确抑制异常、突出背景。在不同传感器拍摄的包含不同景物的高光谱数据集上展开对比实验,结果表明空间和光谱维信息的结合能有效提升检测精度。