在实际科学和工程中,存在的优化问题大多数为双目标或三目标优化问题,有时甚至达到10-15个目标,而且这些目标之间相互冲突.因此,传统的优化方法不能使这些目标同时达到最优.为了解决这些问题,多目标进化算法（multi-objective evolutionary algorithms,MOEAs）提供一个整体框架,并被广泛应用于路径规划、特征选择等领域.在MOEAs中,初始种群的随机化、个体搜索方向的不确定性等,严重影响算法的性能.因此,本文利用模糊推理系统在处理不确定信息和复杂非线性关系等问题上具有的独特优势,融合机器学习方法,提出两种基于模糊推理系统的多目标进化算法,用于解决多目标优化问题或大规模优化问题.此外,针对日益凸显的网络安全问题,提出基于贝叶斯网络攻击图的多目标网络安全动态评估方法,并采用所提算法对其求解.具体研究工作如下:（1）提出一种基于灰狼优化的自组织模糊多目标进化算法.首先采用灰狼算法优化自组织映射的初始权值.然后,提出一种模糊差分进化算子（即利用模糊系统在迭代过程中动态地调整变异参数F）以生成高质量的子代,利用多项式变异对其进行修正.将所提算法与其他经典的进化算法在GLT和WFG问题上进行实验,其在18个性能指标值上取得最好的结果.结果表明,所提出的算法在收敛性和多样性方面优于其他算法.（2）提出一种基于模糊推理系统的自适应NSGA-Ⅲ算法.通过模糊系统分析算法性能指标与交叉概率和变异概率之间复杂的非线性关系,并在此基础上动态更新迭代过程中的交叉概率和变异概率.以迭代次数、收敛度和多样性度量作为模糊系统的输入,以交叉概率和变异概率为输出,设计四种不同的模糊系统,并在DTLZ问题上通过实验从中选择较好的模糊系统.为了进一步验证算法的有效性,在LSMOP问题上对本文算法和现有文献进行测试.结果表明,该模糊系统能够很好地描述多目标进化算法搜索过程中性能指标与交叉概率和变异概率之间复杂的非线性关系.在求解大规模优化问题时,该算法可以有效地提高算法的性能,保持种群的收敛性和多样性.（3）提出一种基于贝叶斯网络攻击图的多目标网络安全动态评估方法.通过考虑网络攻防双方动态行为模式的基础上,构建贝叶斯网络攻击图,提出基于网络可利用性、网络利用影响和漏洞攻击可能性的多目标风险动态评估模型.然后,采用基于灰狼优化的自组织模糊多目标进化算法求解该风险评估模型,并得到多种不同的攻击策略.实验结果表明,该方法能够有效解决多决策变量下的安全评估问题,依此结果掌握攻击者的攻击偏好,从而为安全网络建设、安全加固和主动防御提供建设性的指导.