高光谱遥感影像具有光谱分辨率高、图谱合一的特点,可以提供区分不同物质的诊断性光谱信息,因此在地物目标探测领域具有独特的优势。由于地物分布情况复杂、传感器空间分辨率的限制、目标数目少尺寸小等原因,待探测目标通常与其他地物共同组成混合像元,这时目标以信号比较弱小的亚像元形式存在,问题转化为在像元内部确定目标信号存在性的亚像元小目标探测问题。高光谱遥感影像的亚像元小目标探测问题是高光谱信息处理的前沿问题,也是制约高光谱影像应用的难点问题。本文针对高光谱影像亚像元小目标探测中存在的数据维数较大：目标信号的光谱变化现象严重；目标对背景统计信息的干扰等问题进行深入研究,提出了多种亚像元目标探测方法。具体地,本文的主要研究工作可以概括为：(1)总结了信号检测理论的一般规律,及其在高光谱遥感影像目标探测问题中的应用,推导并分析了三类在高光谱遥感影像目标探测中应用广泛的探测理论：基于广义似然比理论探测器、恒虚警率探测器和匹配滤波器探测方法；总结了线性混合模型反映地物信息方面的物理含义、表达形式和主要局限等,研究了基于光谱分解的目标探测方法,推导了基于主动/被动子集合方法的全约束最小二乘数值解法,通过实验指出了基于光谱分解目标探测方法的缺陷。(2)提出一种基于最小噪声分离变换的约束能量最小化探测方法,在降低维数的同时分离噪声、保持目标与背景光谱差异,以克服因高光谱遥感数据维数大造成的探测速度过慢问题。实验结果表明,与传统的约束能量最小化方法相比,该方法探测亚像元目标效果更好、运算速度更快。(3)提出一种基于光谱分解的自适应匹配子空间探测方法,将基于光谱分解的组分信息替代子空间参数估计的结果,利用具有物理意义的端元和组分信息建立目标与背景子空间,进而构造子空间匹配探测器,利用子空间策略克服目标光谱变化问题、使用结构化背景提高探测精度。实验证明,与自适应匹配子空间探测器等方法相比,该方法可以更好地表达影像的背景信息、提高目标与背景的可分离度。(4)提出一种基于局域信息的正交子空间投影探测方法,利用局域内的相邻像元构建正交投影算子,与传统正交子空间投影方法中使用影像全局的端元构造投影算子相区别。实验中发现,基于局域信息的正交子空间投影方法与传统正交子空间方法相比,投影后目标相对背景的值域更大,这反映出：利用目标周边局域内的像元作为基本元素构建正交子空间,可以更好地反映目标与背景的差异；此外实验还表明,基于光谱分解的自适应匹配子空间探测方法,与正交子空间投影方法、基于局域信息的正交子空间投影方法、和自适应匹配子空间探测方法相比,探测结果更优。(4)提出一种背景非结构化混合探测器,利用统计分布特征表示背景信息,结合光谱分解结果构建广义似然比探测算子。此外,为了克服传统探测器对所有像元的端元数目保持不变的缺陷,引入端元可变的策略判断待探测像元中包含背景端元的种类,分别提出一种基于端元可变的背景结构化混合探测器和一种基于端元可变的背景非结构化混合探测器,提高了光谱分解精度以及背景信息表征的精度。分别利用ROC曲线等评价指标对加入端元可变策略后探测器分离目标和背景效果、对背景端元估计偏差的敏感度等情况进行比较和分析,实验结果验证了端元可变策略的有效性,这也证明了通过提高表征背景精度的方式可以提高亚像元目标的探测效果。(5)提出一种基于随机采样的异常目标探测方法,在缺乏先验目标信息的条件下,解决目标探测问题。该方法利用多个局域位置选取的像元作为背景信息,结合局域特征和全局特征,通过多次选取背景信息来建立不同的探测算子,最后融合多次探测结果,利用异常目标呈现异常次数最多的特点,确定异常目标。实验证明,该方法可以较好地抑制目标对背景信息的干扰,提高目标与背景的可分度。此外,还提出了一种实时探测的随机采样异常目标探测方法,实验证明其可以减少不同背景交界处的虚警数目。