基于知识迁移的多任务优化方法研究

来源 :大连理工大学 | 被引量 : 0次 | 上传用户:chifelonh
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
多任务优化是当前智能优化领域的热点之一,多任务优化算法在优化多个彼此相关的任务时,通过迁移任务之间的有效知识来提升各个任务的表现效果。但传统的多任务优化算法通常用于优化规模较小的任务组,在面对任务量较大的优化场景时,会出现迁移效果变差、计算成本升高、任务收敛变慢等问题。为解决这些问题,研究者们提出了多任务质量多样性算法,它能够生成大量多样化且表现效果好的解决方案,在一些特定场景下可以同时解决大量任务,适用于大规模任务的优化场景,但其仍存在知识迁移随机性较大、迁移方式单一、易陷入局部最优等不足。因此,本文在质量多样性算法的基础上,提出了两种新的多任务优化算法,对现有多任务质量多样性算法进行了改进。第一种算法首先设计了有效的任务分组方式。算法根据任务的表示特征计算任务之间的相似程度,然后根据相似度将所有任务分组,组内的任务构成知识迁移区间,并使接下来的组内知识迁移过程仅可以在该区间内发生。通过这种方式,使知识迁移尽可能发生在相似任务之间,减少了负迁移发生的概率,提升了有效知识的迁移效率。其次设计了新的知识迁移策略。不同于传统多任务优化算法中仅迁移表现最好任务的知识,本算法在各个知识迁移区间中记录了多种渠道的知识,包括表现有提升的任务、表现最好的任务和任务变化之前的信息,将这三种信息综合起来协助待优化任务,提升它们的表现效果。同时引入随机过程,使个体有机会发生随机变异,缓解了个体易陷入局部最优的问题。第二种算法是对第一种算法的改进,是将自适应的思想应用到第一种算法中。首先采用了自适应的方式选择知识迁移策略。为了进一步改进算法的性能,本算法设计了四种知识迁移策略,每种策略都偏重于迁移某一渠道的知识。在评估过程中,算法可以根据策略的表现自适应地选择最合适的策略进行知识迁移。其次,采用自适应的方式选择交叉算子。在生成子代的过程中,本算法不但沿用了原算法中的交叉算子,并引入了另外两种较为流行的交叉算子。在评估时,算法可以根据每种交叉算子的表现,自适应地选择表现最好的交叉算子生成子代。本文使用机械臂模型(代表简单任务)与六脚机器人模型(代表困难任务)验证算法的有效性,首先通过消融实验证明改进的有效性,接着将本算法与其它算法在两种模型上进行对比,证明了本文提出的算法具有更好的优化能力。
其他文献
脉冲神经网络,作为第三代神经网络,具有时间连续性、高能效、快速处理和生物合理性等特点,近年来逐渐应用在机器人领域。导航避障任务对于机器人来说是一项最基础且最重要的功能,但如何设计出高效且生物可解释的移动机器人复杂场景下的避障与导航算法是一项重要的研究问题。大多数方法通过人工设计的脉冲模型在大量的数据集中不断训练来实现固定场景下的避障与导航功能。但这些方法面临着如下问题:第一,脉冲模型的训练需要大量
学位
长非编码核糖核酸(long noncoding RNA,lnc RNA)作为具有代表性的一类非编码核糖核酸(non-coding RNA,nc RNA),通常被认为不具备编码蛋白的能力。然而,最近研究发现,部分lnc RNA含有不超过300个核苷酸的小开放阅读框(small open reading frames,s ORFs)具有编码小肽的能力,打破了人们对nc RNA不能编码的传统认知,且在后
学位
遥感图像的三维建模及渲染方法是地理信息技术、数字图像处理、人工智能和计算机图形学等领域的热点研究之一,其在地质研究、国土资源监测、城市建设等诸多领域有着不可替代的作用。随着近年来大规模开放世界、数字孪生城市和元宇宙等前沿研究概念的提出和发展,业界对高效率、高质量、迭代速度快、泛用性强的三维遥感图像建模方法和渲染方法的需求日益迫切。为了解决这一问题,本文将三维过程化内容生成(3D Procedura
学位
近些年,深度学习技术的迭代发展促使生产生活愈发智能化。在人机交互、安全监控、体育训练等多个领域内,动作识别技术有着极大的社会需求和发展前景。动作识别任务包括针对如视频模态、骨架模态等不同输入数据模态的子任务。相较于视频模态等其他数据模态,骨架模态可以避免背景信息的干扰,近年来,图卷积理论的提出与完善促进了骨架序列动作识别技术的发展。然而,现有基于图卷积的骨架序列动作识别方法仍存在局限性。本文从网络
学位
图像抠取(Image Matting)是指从一张任意输入的图像中精细地抠取出用户所感兴趣的前景物体,该前景可以为人、动物、植物或网状等类别。被抠取的前景可以被多个应用领域所使用,譬如:绿幕电影拍摄及制作、虚拟现实(Virtual Reality)和增强现实(Augmented Reality)、在线会议背景替换、网络主播换装等。随着大数据时代的到来,海量的互联网数据对图像抠取算法带来了一系列新的挑
学位
数据检索是机器学习中重要的研究领域。机器学习算法对数据潜在信息挖掘能力的提升,以及提取的表征对数据相似性可衡量能力的增强,对检索任务而言有着非常重要的研究意义。凭借执行效率高和存储空间低的特点,哈希学习在检索领域中被广泛地研究和应用。哈希学习方法将高维原始空间的数据进行降维处理和编码操作,并映射成短小紧凑的二进制向量。该短小的编码在保持数据间相似性关系的同时,不但提升了检索效率,而且降低了数据存储
学位
随着社交媒体平台的发展,互联网极大地拓展了人与人之间交流沟通的渠道。海量的对话文本在网络上不断地被发布、传播和共享,其中蕴藏了大量用户的主观感受与情感倾向,需借助人工智能等技术进行分析与挖掘。对话情感分析任务为在对话场景下分析语段的情感极性或情绪类别,因对话具有多样的表达方式、复杂的逻辑结构和耦合的情绪因素,使得该任务成为文本情感分析领域的研究热点。本文按短对话到长对话、单标签至多标签的逻辑逐步深
学位
生物医学是一门前沿交叉学科,与人类的健康和生命息息相关。近年来,生物医学领域的电子期刊和文献数量飞速增长,用生物医学文本挖掘技术自动发现隐藏在这些非结构化数据中的领域知识是本领域进一步发展的关键。文档级生物医学关系抽取作为生物医学文本挖掘的一个重要分支,旨在从非结构化的生物医学文档中自动地抽取出存在的关系事实。目前,基于深度学习的方法是处理文档级生物医学关系抽取的常用方法。一方面,在文档级生物医学
学位
在生物医学领域,数量庞大的医学文献逐渐构成了一个丰富的知识宝库,医学文献作为一种重要的知识来源为相关研究者们提供了重要的医学信息,有助于临床诊断、医疗问答系统等相关研究的发展。但是由于数据的增长是十分迅猛的,因此如何准确地从生物医学文献中自动提取信息,如何有效地将非结构化文本数据转换成结构化数据,成为生物医学自然语言处理领域研究的重要方向。本文旨在利用文本分类技术和关系抽取技术对生物医学领域的文本
学位
三维重建是计算机视觉领域重要的研究方向之一,在文物保护、虚拟现实、机器人与自动驾驶等领域都有着广泛的应用。近年来,三维重建领域得到了快速发展,但三维重建模型仍有缺陷。受遮挡和距离传感器等内在因素影响,三维重建模型存在不同程度的缺失情况,因此引入三维补全进行修复。三维补全是三维重建领域中的一个重要研究方向。传统补全方法通过挖掘几何线索或匹配数据库模型实现补全,依赖于先验知识或数据库容量。深度学习方法
学位