视觉域适应学习关键问题与方法研究

来源 :重庆大学 | 被引量 : 0次 | 上传用户:liutongyang123
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在大数据时代,计算机视觉得到了长足发展。但是很多模型的成功都依赖于大规模有标签的样本数据,在现实中却包含无数的新场景,模型需要面对不同视角、不同背景和不同光照的场景。在这种情况下,很多原本超越人类性能的模型无法预测新的任务,可能会遭受性能大幅下降。从头学习模型需要大量的标签样本,一方面需要耗费大量的人力资源成本。另一方面会造成时间成本以及硬件资源的浪费。考虑到数据或者任务之间存在相关性,可以通过域适应学习将已有的或者已学习的模型参数通过某种方式分享给新的模型从而避免从零学习。域适应可以帮助人类处理新的场景,超越了任务的限制,是机器学习在大规模使用中的强大推动力。域适应是迁移学习的一个子方向,可以突破传统机器学习中训练数据和测试数据必须服从独立同分布的约束,然而由于样本间和域间的差异,负迁移和欠适配始终是贯穿于域适应问题的一个重要挑战,本文统称为域失配问题。首先,由于源域与目标域的样本特征具有差异性以及源域样本类别之间具有不平衡性,可能使学习到的特征空间出现偏置现象;其次,在不同的任务中,源域与目标域之间的域间差异不同,当域间差异较小时,域适应可以辅助解决域差异问题,但是当域间差异过大时,域适应效果往往不够理想;再次,无监督域适应是最符合现实的一种场景,在该设置下,由于目标域缺乏标签,源域训练的模型通常会出现模型偏置。本文将重新审视域失配这个棘手的问题,根据迁移学习泛化误差上确界理论,分别从源域中特征空间偏置、域间分布差异、目标域模型偏置三个涉及到的子问题出发,从特征匹配重建、域生成、样本级对齐几个技术层面展开,改进目标域样本的期望误差边界。论文的具体工作和主要研究结果如下:(1)为了改善由于特征空间偏置造成的负迁移和欠适配,从特征匹配重建的角度出发,论文设计了两种基于子空间重构的域适应方法。(1)虽然子空间学习和重构在迁移学习中得到了广泛的研究,但现有的域适应算法忽略了类先验,特别是遇到某些类数据稀缺的情况下,会使得学习的模型存在偏置。为了改善这种现象,论文设计了一种具有类分离性的转移矩阵对齐源域和目标域。(2)考虑之前的子空间投影多数为线性投影,受深度神经网络的启发,非线性投影替代线性空间被引入进来。因此,论文提出一种基于神经网络非线性预测的特征重建方法,通过联合学习一组分层的非线性子空间投影和转移矩阵,从而实现简单有效的域适应。(2)从源域与目标域之间的相关性出发,现有域适配理论要求域间差异不能太大,然而实际场景中域间差异不可控,当域间差异过大时,重构学习通常并不能很好地解决域适配问题。为了避免这种困境,本文从生成的角度出发提出了两个方法。(1)为了避免域间差异过大造成的域失配,本文考虑生成辅助的中间域,使生成的中间域和目标域的差异尽可能在理论可控的范围内。受流形假设的启发,提出了一个生成差异度量准则——流形准则,并在该准则的引导下,提出了一种基于局部生成差异度量的中间域生成学习方法——流形准则引导的迁移学习,从而使生成域的分布拟合真正的目标域分布。(2)除了从生成的角度辅助子空间投影缓解域间差异外,受GAN的启发,从神经网络生成的角度,提出一种浅层半监督对抗域适应网络——耦合对抗域适应网络,从而直接生成域对齐的特征用于域适应学习。(3)基于深度学习的域适应方法是目前的主流,通常采取无监督的实验设置,目标域标签缺乏导致的模型偏置也是造成域失配的原因之一。为了缓解这种模型偏置问题,本文从类级别对齐的角度,结合边缘分布和条件分布,设计了三种域适应模型。(1)受互学习(mutual learning)的启发,论文设计了一个强弱分类器协作的域适应方法,通过相互蒸馏,从正则化的角度提出了一个由k近邻(k NN)分类器正则化softmax分类器的深度迁移学习架构。(2)现有的对抗域适应方法主要考虑边缘分布,特征和类别的联合分布并没有很好地进行对齐。为了解决这一问题,本文提出了一种自适应重加权对抗域适应方法,试图从条件分布的角度出发增强域对齐。(3)受三元组损失的启发,并考虑到样本对之间重要性关系的不同,本文从贝叶斯角度推导出了贝叶斯角度三元组损失,自动调整域内与域间样本对的权重,从而促进无监督域适应的模型训练。
其他文献
随着“西部大开发”和“一带一路”战略的稳步推进,我国基础设施建设不断向西部地区延伸。我国西部地形起伏度大,公路、铁路面临大量隧道的建设,其中不乏长大隧道和螺旋隧道。当两地之间海拔高差较大时,可以通过螺旋隧道降低两地之间公路的坡度,提高行车安全,同时,螺旋隧道还可以在较短距离内爬升较大的高度,有效的缩短了两地之间的距离,为山地经济发展提供了便捷。然而,螺旋隧道特殊的线型使得施工区域污染物扩散和运移不
常规水处理流程通常包括絮凝、沉淀、过滤和消毒四步,絮凝是其中重要一环。絮凝处理效果很大程度影响后续的处理工艺和出水水质。近年来,随着对水质要求的不断提高,水处理领域对高性能、高效率和多功能的絮凝剂的需求日益增长。絮凝剂的杀菌作用引起了众多研究者的关注,但絮凝剂的杀菌过程、杀菌机理、杀菌效果和杀菌广谱性有待深入探究。此外,絮凝后对水体中细菌种类的高效、准确识别也是论文研究的重点。论文首先研究无机混凝
氨,作为最基本的化工原料之一,不仅可以用于生产化肥,而且也被认为是未来理想的氢能源载体。从经济发展与人类科技进步的角度考虑,开发绿色高效氨合成技术至关重要。近年来,电化学固氮合成氨技术因其反应条件温和、原料来源丰富(氮气和水)、工艺简单、环境友好等优点,在国际上引起了广泛关注。此外,洁净的电能作为该技术的驱动力,能够很好地与可再生能源的间歇性相兼容,有望实现分布式、模块化合成氨。然而,当前限制该技
冲击载荷是机械系统和武器装备长期面临的技术难题,而传统的被动缓冲器通常是利用横截面积可变的节流小孔产生阻尼力来吸收冲击能量,以提高系统的安全性和稳定性。被动缓冲器只能对某种特定的冲击实现良好的缓冲效果,不能很好地解决多工况的冲击问题。磁流变技术的出现为自适应缓冲器的研究提供了全新的解决方案。然而,以磁流变液(Magnetorheologicalfluid,MRF)作为控制介质的磁流变缓冲器(MR
覆冰对输电线路绝缘子电气外绝缘特性产生严重影响,为此国内外学者对冰面交流电弧特性、数学模型和人工覆冰绝缘子交流闪络特性进行大量研究,但研究冰面交流电弧特性的电弧长度较短、自然覆冰绝缘子交流闪络特性研究缺乏系统性。本文在国家自然科学基金支持下,结合我国超/特高压输电工程建设需求,在大型多功能人工气候室系统地开展了不同电弧长度(10~60 cm)的交流电弧特性研究;在雪峰山野外科学观测研究站开展了自然
化学领域研究的核心内容离不开化学反应。化学反应的研究过程中会涉及到复杂的反应机理,而动力学理论模拟则是从微观层次上研究反应机制的重要手段。本文主要运用动力学方法对三个重要的化学反应进行了理论模拟研究,得到了丰富的动力学相关信息,从而帮助人们从微观层次上更进一步地了解化学反应的本质。本文的第一个反应体系是OH+H2O反应。OH+H2O→H2O+OH这一对称性反应,在大气化学、燃烧化学、星际化学、环境
关节软骨作为人体膝关节的应力传递组织,在日常生活和竞技运动时承受和传递力学负荷,并减少和缓冲股骨和胫骨的震动和冲击。研究显示,当膝关节过度运动、负重或受到严重创伤时,软骨组织会出现结构和功能的损伤、破坏,继而引起组织反复炎症和疼痛,从而引发骨性关节炎(Osteoarthritis,OA)。随着世界人口老龄化现象成为常态,OA的发病率逐年递增,在55岁以上人群中高达80%。OA是一种累及软骨、骨和骨
随着工程技术的成熟和抗震需求的提高,单一阻尼特性材料组成的结构已不能完全满足不同建筑功能的要求,越来越多由不同阻尼特性材料组成的混合结构被应用到实际工程中,如钢-混组合结构、设置阻尼器的耗能结构等。混合结构的阻尼矩阵不再满足与质量矩阵、刚度矩阵的比例关系,设计规范中常用的基于比例阻尼假定的抗震设计方法,亦不再适用于非比例阻尼线性体系地震作用效应的求解计算。非比例阻尼线性体系的动力反应在采用数学动力
髓核组织(nucleus pulposus,NP)退变是导致椎间盘退变的主要因素。退变的NP内,胞外基质(extracellular matrix,ECM)合成能力下降,NP细胞发生凋亡和衰老,最终导致NP的结构和功能丧失。赖氨酰氧化酶(Lysyl oxidase,LOX)可以通过催化ECM中胶原蛋白和弹性蛋白共价结合来帮助ECM维持其稳定性和强度。研究发现,LOX可以促进软骨细胞ECM合成,对骨
雪崩动力学行为即是物理系统受外部刺激从而产生一系列跨越多个尺度的间歇性反应,这类反应是非线性和非连续的,称之为雪崩信号。当远离平衡的系统在外部作用驱动下,系统内部的演化由短程局部转变为长程相关,这个过程是一种快速簇拥的雪崩行为。雪崩动力学与不同尺度的空间域的转换息息相关,现今,雪崩动力学已衍生为一个涉及复杂系统演化、材料科学、股票市场、神经网络、生物进化及地球科学等多领域的科学问题。雪崩行为的重要