多模态多目标优化问题在学术研究和工业应用中广泛存在,比如航天发射任务设计、汽车发动机设计等等。近年来,多模态多目标优化受到越来越多的关注,许多学者对此进行了研究。在多模态多目标优化问题中,优化目标是找到所有具有相同目标向量但在决策空间中分布不同的帕累托最优解。本论文研究了几种具有代表性的多目标演化优化算法在多模态多目标优化问题上的表现。实验结果表明,随着算法的执行,由于没有解的多样性的保护机制,决策空间中解的多样性会变得越来越差。为了解决该问题,本论文提出了两种决策空间中解的多样性的维护机制。本论文的主要工作包括:(1)提出了一种子种群搜索方法来求解多模态多目标优化问题。首先,将一个种群分为几个子种群;之后,在优化过程中,每个子种群对应一个帕累托最优解集。配对、杂交、变异、环境选择等优化过程在每个子种群中独立进行。为了使子种群互相远离,使用了两个指标来使得解在决策空间中形成小环境。第一个指标是解与其所处的子种群的中心之间的距离。第二个指标是解与另一个最近的子种群的中心之间的距离。将这种方法应用到SPEA2和IBEA两种具有代表性的多目标演化优化算法上。实验结果表明对于大多数多模态多目标优化问题,子种群搜索方法能够显著提高决策空间中解的多样性。(2)提出邻近锚方法来求解多模态多目标优化问题。该方法使用了一个额外的种群(6来保存搜索到的解。在算法运行的每一代中,对于每个在原有种群中的个体,该方法在(6中找出在决策空间中距离最近的6)个个体并比较是否比找到的6)个个体中最差的那个好。如果比最差的那个个体好,该方法就用来替代那个最差的个体。将这种方法应用到SPEA2和IBEA两种多目标演化优化算法上。实验结果表明对于大多数多模态多目标优化问题,邻近锚方法能够显著提高决策空间中解的多样性。