混合像元在高光谱遥感图像中普遍存在，是制约分类精度提高和目标探测准确性的主要因素，将混合像元分解为端元和丰度是遥感科学的重要研究内容，其处理精度与后续的遥感图像信息提取和应用效果有密切联系。　　 混合像元分解的关键步骤是端元提取，端元提取的研究主要分为模型和方法两个层次。各种方法，无论是以内部体积最大为目标还是以外部体积最小为目标，甚至增加空间信息或应用支持向量机等机器学习理论，其基本模型都是线性光谱混合模型的几何学描述，都是依据高维空间单形体的结构特点进行设计的，不可避免的存在如下缺点：缺乏信息反馈机制，导致误差积累；端元数对波段数存在依赖，需要先进行降维；端元评价方法简单，无法适应误差或噪声较大的图像。　　 针对上述缺点，本文首先为端元提取建立了新的最优化模型，将端元提取问题描述为以均方根误差为目标函数的组合优化问题，进而引入两种典型的群智能算法解决此组合优化问题，即蚁群算法和粒子群算法。对于蚁群算法，本文将端元提取问题的组合优化模型的可行解空间描述为一个有向有权图，重新定义了单个蚂蚁行动规则和多个蚂蚁信息交互规则，根据组合优化的目标函数和数据特点定义了两种不同的目标函数，从而得到了能够进行端元提取的两种蚁群算法(ACO Type-Ⅰ和ACO Type-Ⅱ)。对于粒子群算法，本文改进了组合优化问题的可行解空间表达方式，使其能够被定义为粒子群中的粒子位置，进而在此基础上定义了粒子的速度和速度更新方程，通过根据组合优化的目标函数定义了粒子的适应度函数，从而得到了能够进行端元提取的离散粒子群算法(DPSO)。　　 最后，本文通过模拟数据实验验证了ACO Type-Ⅰ、ACO Type-Ⅱ和DPSO对于端元提取的可行性，分析了三种算法对现有端元提取方法主要缺点的改进效果，比较了不同参数下三种算法的性能和正确性。进而，通过实际数据实验验证了三种算法端元提取结果的合理性和有效性，通过光谱相似度和均方根误差的对比验证了三种算法的端元提取效果较Nfindr、VCA、MVES和AVMAX更加准确合理，并且有利于数据的进一步分析处理。