面向大规模实值优化问题的CMA-ES算法及其分制策略研究

来源 :中国科学技术大学 | 被引量 : 0次 | 上传用户:gongjuntao
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
实值优化问题在工程和学术领域有广泛的应用背景,许多问题最后都可以被定义成实值优化问题来求解。随着系统越来越复杂,需要优化的参数越来越多,优化问题解空间的维度越来越高,导致大规模优化问题的出现。演化算法作为一种优化问题通用求解器,具有启发式算法的一系列优良特性,包括对优化问题的鲁棒性、全局搜索能力强等,而且易实现、易并行,特别适合求解实值优化问题。演化算法,已经在实值优化问题上表现出了良好的性能,并且,在近似优化上,已经有了理论保证。但是,由于维度灾难,演化算法在大规模优化问题上的表现会快速下降。协作性协同演化框架是一种基于分制策略的演化框架,它将待求解问题分解成多个子问题,并在每个子问题上应用演化算法来求解,最后合并多个子问题的解,从而形成原问题的解。基于协作性协同演化框架,多种演化算法已经成功的从低维优化问题拓展到了大规模优化问题。协作性协同演化框架基于分制策略,所以问题的划分方式对问题求解的效果产生非常大的影响。在实值优化问题中,往往存在变量之间的相关性,不恰当的划分方式将相关变量划分到不同的子问题中,导致了子问题求解的耦合性,从而不能很好的解决原优化问题。本论文有以下研究目的:1.研究基于协同演化框架的演化算法在实值优化问题上的分制策略;2.研究基于协同演化框架的演化算法,用于求解大规模实值优化问题;3.将分制策略形式化定义为优化问题,并开展应用研究。根据以上研究目的,本论文以Covariance Matrix Adaptation Evolution Strategy (CMA-ES)实值优化算法和协作性协同演化框架为研究基础,进行了问题分制策略的研究,并将问题分制策略应用于CMA-ES算法上,用于求解大规模实值优化问题,最后解释了问题分解定义的理论基础,并将问题划分拓展到一般聚类问题,在聚类问题上进行应用研究。本论文的主要工作和创新之处主要有以下几点:1.首先基于高斯分布,研究了CMA-ES实值优化算法的问题分解策略,从控制高斯分布作为局部搜索算子的搜索力度的角度,提出了两种新的问题分解方法;2.将提出的问题分制策略应用到CMA-ES算法上,基于协作性协同演化框架,提出了一种更加高效的CC-CMA-ES算法,并在大规模实值优化问题上进行实验研究,验证了提出的问题分制策略和优化算法在大规模实值优化问题上的有效性;3.从KL散度的角度,将基于高斯分布的问题分解定义成了一个离散优化问题,解释了两种问题分解方法的理论基础,并将基于高斯分布的问题分解所形成的离散优化问题,拓展到一般的聚类问题上,提出了一种新的聚类算法。本论文通过对协同演化框架和CMA-ES算法的研究,提出了两种新型的问题分解策略,并将问题分解策略应用于CMA-ES算法,提出一种基于协作性协同演化框架的CMA-ES算法,可以在高达1000维的大规模实值优化问题上表现出良好的特性;然后,从KL散度的角度,理论解释了两种问题分解策略的出发点,并且将问题分解拓展成为一般形式的聚类问题,将聚类定义为一个离散优化问题,在Iris数据集上进行了应用研究。这些工作对于将演化算法应用到大规模实值优化问题有着重要的理论和应用价值,并且和聚类问题建立了联系,对于相关领域的研究有重要意义。
其他文献
近年来,问答类社会网络迅速发展,用户量快速增长。经过数年的积累,以人为核心的问答类社会网络正成为互联网的主体应用之一。然而,随着社会网络的蓬勃发展,互联网安全受到了新的挑
中文音译人名属于未登录词,而未登录词识别是自动分词技术的关键问题,自动分词是信息检索、信息抽取及知识发现等方面起着很重要的作用。目前在音译名的识别方面已有很多的研
近年来,视频追踪将计算机视觉、模式识别、人工智能等学科的技术很好的融合在一起,成为视觉研究领域内一个非常活跃的分支,具有广阔的应用前景。尽管已有很多目标追踪算法,但是,由
虚拟化技术在当前数据中心中应用越来越普遍。虚拟化技术通过在同一个物理机上运行多个虚拟机来提高硬件资源的利用率。大规模的数据中心应用虚拟化技术实现资源的高效利用,
随着脑科学研究的发展,一种融合了传统机器智能与大脑智能的混合智能系统的实现变成可能。混合智能系统可以突破传统的人工智能在机器智能方面的局限性,为人工智能发展领域开辟
随着云计算的兴起,软件的交付与使用模式正在发生着变化。作为云计算的一部分,PaaS平台为SaaS应用提供完整的开发、部署及运行环境。租户通过PaaS平台租用自己所需的SaaS应用
随着互联网技术的高速发展,网络中积累了大量的数字图像和视频数据,这些数据为人们的使用带来了新的技术挑战。为此,许多专家学者对图像分类、图像检索、目标识别等领域进行
随着互联网技术与信息产业的发展,以及各种图片分享类网站的出现,如今我们已经步入图像时代。图像是一种直观的媒体资源,在日常生活中扮演着重要角色。图像分类是计算机视觉
随着嵌入式系统网络化、智能化应用的不断扩展,传统软件实时操作系统作为支撑软件已无法满足需求。基于硬件化、软硬件协同等手段,在FPGA、SOC等器件上实现硬件实时操作系统已
随着互联网的飞速发展,在线社群图像的规模呈爆炸式增长,面对日益庞大的图像数据,如何对图像库进行有效的组织、管理和检索成为亟待解决的问题。标签是当前标注这些网络图像