面向通用域自适应的迁移学习方法研究

来源 :吉林大学 | 被引量 : 0次 | 上传用户:gcsjsb
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
目前,我们的生活中处处都能接触到深度学习。深度神经网络的成功应用需要大量的数据;但在现实中,我们拥有的数据相对较少,找到大量有用的数据为我们提供训练是不现实的。因此为了扩展数据集而提出了迁移学习,可以解除大量训练数据和大量训练成本的两个限制。之后,迁移学习成为了科学家们探索的重点并运用于各个领域中。领域自适应是一个具有更严格约束条件的迁移学习问题,也是迁移学习研究的热点。而本文进行研究的问题属于领域自适应方向的一个子类——通用域自适应问题。2019年提出的通用域自适应问题是指在普遍的生活情景中,目标域数据是未被标记的数据,无法确定源域和目标域的公有类别与各自的私有类别分别有哪些。在这个背景下,通用自适应网络是首个被提出用来解决该问题的方法。通用自适应网络方法实现了样本级的迁移,利用两个判别器进行样本的权重计算,成功地将非公共标签集标记为未知类,进而区分出公有类与私有类。在通用自适应网络方法被提出后,我们发现该方法忽略了每个域中的复杂结构,会导致公共标签集中类别之间数据分布的错位匹配。在此基础上,本文提出了一种新的方法——基于多判别器的通用自适应网络(Universal Adaptation Network based on Multiple discriminators,MUAN)。该方法利用多对抗性类判别器进行类别与类别之间的对齐,通过相关对齐测量两域公有类间的分布距离,并最小化距离损失。本文的方法能够在公平的实验环境下保证模型在目标域上的分类准确率,提高模型的迁移能力。与之前的方法相比,主要在两大部分进行了改进。首先在基础框架上使用多对抗性类判别器来对公共标签集进行更加细粒度的对齐。另外,本文提出的方法利用相关对齐进一步强制缩小了源域和目标域的公有类之间的分布距离。与现有的方法相比,本文提出的方法不仅注意到了每个域的公共标签集中的多模态结构,防止了类别对齐错误,能够有效避免负迁移,而且还利用相关对齐促进了模型的正迁移。本文提出的方法很大程度地扩展了深度对抗域自适应的能力,以解决更多的迁移学习问题。近年来领域内关于通用域自适应问题的大部分论文都没有统一的实验对比标准,而本文进行了流行方法与基于多判别器的通用自适应网络方法在目标域上训练的分类准确率的对比实验,可以较为公平的显示出各个方法的优劣。另外,本文还评估了我们的方法在方法性能方面的五个对比实验,从实验结果中可以得知本文提出的基于多判别器的通用自适应网络方法具有更好的迁移效果,能够有效缩小源域与目标域数据分布之间的距离,并且实现更细粒度的对齐。
其他文献
老龄化背景下老年人口的多维相对贫困是社会关注的热点,数字经济时代数字普惠金融能否助力减缓老年人口多维相对贫困值得探究。利用中国健康与养老追踪调查和北京大学数字普惠金融指数的数据,实证分析数字普惠金融能否减缓老年人口的多维相对贫困。研究发现,数字普惠金融能够减缓老年人口的多维相对贫困,减贫效应存在个体、家庭以及区域之间的差异。数字普惠金融通过缓解信贷约束、提升投资理财参与度和缩小收入差距三个渠道缓解
随着我国教育课程改革进程的不断深化,传统的教学理念和教学模式已经不能适应新时代基础教育的发展需要,新的教学思想如雨后春笋般涌现,深刻地改变了我国基础教育的现状。在高中语文教学的过程中,阅读教学一直是其至关重要的一部分,学生只有通过有效的阅读,才能不断促进语文核心素养的快速发展。而任务型教学法是近些年来逐渐新起,被广大语文教师应用于实际教学过程中,经受住教学实践检验的一种教学方法。在阅读教学中,通过
基于区域差异化发展战略,利用北京大学数字普惠金融指数与泰尔指数构建面板分位数模型,探索长江经济带如何科学发展数字普惠金融体系收敛城乡收入差距,研究显示:长江经济带数字普惠金融对泰尔指数的收敛效应主要来源于金融覆盖广度,金融使用深度缺乏显著性,数字化程度甚至扩大泰尔指数;数字普惠金融三大层次在长江经济带上、中、下游对泰尔指数具有明显异质性影响;分位数回归表明,总体上长江经济带数字普惠金融对泰尔指数大
目的 探讨新冠肺炎疫情下居家隔离人员焦虑、抑郁影响因素。方法 选取2020年1月29日~2020年3月31日201例新冠肺炎疫情下居家隔离人员为研究对象,分为焦虑和抑郁阳性组、阴性组。组间比较釆用Pearson卡方检验、连续性修正检验或Fisher精确检验,采用单因素二分类Logistic及多因素回归分析探讨新冠肺炎疫情下居家隔离人员焦虑、抑郁的影响因素。结果 ①焦虑阳性组和阴性组在年龄、性别、疫
随着经济体制改革的日益深化,企业经营环境产生了根本性的变化。企业要生存,要发展,光有外部的良好环境是远远不够的,还必需对企业内部进行相应的配套改革,满足市场需要。本文通过对企业内部的相应配套改革加以讨论,能对企业的发展出力,使企业增强适应的能力。
IgA肾病被认为是全身免疫性疾病,其发病机制复杂,现有的治疗方法并不能完全控制IgA肾病的进展,约40%的患者会在20年后进入终末期肾功能衰竭。近年来,针对IgA肾病致病位点(特别是半乳糖缺陷IgA1的生成和免疫复合物引起的炎症反应)的靶向治疗正在积极开展。本文针对IgA肾病的发病机制,从黏膜免疫、B细胞、IgA1蛋白酶、补体途径、RNA等方面介绍目前IgA肾病的靶向治疗方法及其相关机制,以期对未
随着互联网等技术的发展,CP粉拥有了更为广阔的媒介平台,其依托网络不断联结、壮大,成为一个日益兴起的受众群体,拥有着较大的影响力。在“使用与满足”理论指导下,通过对18位北京女性大学生CP粉的访谈以及对网络中CP粉群体的参与式观察,研究发现:CP粉的“嗑CP”行为背后存在着解压、情感、社交等需求,是一个个体寻求媒介、媒介满足需求的双向互动过程。同时,研究尝试提出包括群体规范、平台监督在内的三条策略
乳腺癌患者接受放射治疗虽能降低肿瘤的复发率,但也可导致放射性溃疡的发生,且创面修复较为困难。本文总结了近几年的相关文献,阐述了该疾病的病理学特点、临床表现,以及改善全身状况的相关方案,包括换药、负压封闭引流(VSD)、创面敷料、富含血小板血浆(PRP)、高压氧治疗等,并重点介绍了常用皮瓣的临床应用经验,为该疾病的诊治提供参考。
<正>2022年全球各国共同面临严峻粮食安全危机,国家领导人多次提出粮食安全是“国之大者”,要树立大农业观和大食物观,向森林要食物,向植物动物微生物要热量、要蛋白。国投集团中投咨询有限公司曾于2021年承接中国扶贫发展中心委托的“构树扶贫工程评价项目”,对杂交构树木本饲料产业情况开展了全国六省试点区县摸底调查。以2020年我国木本油料为例,
期刊