基于对抗和正则化方法的域适应算法研究

来源 :电子科技大学 | 被引量 : 1次 | 上传用户:zhufutao2
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在现实社会的生产生活中,随着数据量的快速增长,我们对图像以及其他类型的数据进行分析和利用的需求飞速增长。为了分析多种数据类型的各种数据任务,我们在深度学习上取得了飞速进展,这给我们的生活带来了便捷性,极大地提升了生活的品质。尽管深度学习在众多应用中取得了成功,但其出色的性能在很大程度上取决于大量的标记数据,标记数据的过程一般都耗时耗力。为了减轻对数据标注的高度依赖,一个解决方案是利用一些已有标签的其他数据域的信息来应用到对该数据域的学习上。所以,需要解决其他数据域和该数据域的数据分布不匹配问题。在过去的研究中,研究者们提出了大量的域适应方法并在实验中证明其对域间解决数据分布不匹配问题的有效性。但是,现今的域适应方法没有考虑模型在无标签的目标域上的预测结果的稳定性,所以在目标域缺失标注这种更困难的无监督域适应场景下,往往在目标域上不能有好的预测效果。本文针对上述不足,提出了两种基于对抗和正则化方法的新颖的域适应方法,现对这两种方法总结如下:(1)我们提出了权重时序正则化域对抗网络(W-TeDAN),一方面使模型学习到域之间的不变通用特征,减少域之间的距离;另一方面正则化约束模型在无标签数据域上的预测结果,有效地利用无标签数据的信息。除此以外,本文方法采用基于标签信息的条件分布来表示域分布,和仅仅使用边缘分布表示相比,域对抗网络会同时考虑标签和数据的信息,从而使域适应的目的更细化精确。我们也通过实验来证明了该方法的有效性。(2)在域适应的过程中,可能有一些内在的隐式特征和其它内在的隐式特征相比更易于在域之间传递,我们构造的域适应网络最好能够学习到这种更广泛的特征并使其在域之间迁移,基于这个目的,我们提出了一种基于元学习的权重时序正则化域对抗网络(W-TeDAN-meta)。我们企图通过引入元学习的思想使整个模型在各个子任务上迅速学习到一些经验,而不会过度拟合子任务进而将各个子任务学习到的经验综合起来以使目标任务学习得更好。除此以外,模型集成能够使预测结果更稳定。实验表明,该方法能够进一步提升预测效果。
其他文献
近年来,以钢铁工业为代表的工业制造业迅猛发展造成我国境内雾霾天气频发。在钢铁冶炼过程中均需消耗大量散状原料,产生大量废渣,物料(废渣)在转载及输送过程的粉尘污染贡献量较大,操作工人长期在此环境中工作极易引发尘肺病。皮带运输是散状物料转运的主要方式,其包括廊道内水平传送及垂直下落转运两个过程。炼铁火渣经转鼓水冲击生成的固体废渣中含有玻璃丝状微细颗粒物,当皮带转运热湿铁渣时,转运廊道内会形成高温、高湿
城市商业银行是在中国金融环境的特殊历史条件下形成的,是国家实行金融体制改革,服务地方经济的产物。公司客户经理作为城市商业银行的关键营销力量,其绩效考核体系的科学合理构建是内部管理精干高效、业务团队成熟、经营效益稳定以及人才吸引的重要保障。L银行郑州分行作为中原经济区最早成立的域外分行之一,已在经营管理过程中总结出一套相对成熟的公司客户经理绩效考核体系。本文针对L银行郑州分行发展转型的特殊时期,描述
电动汽车有着高热效率、低排放、动态性能优秀等具有巨大的发展潜力,成为了世界各国的重点研究对象。其中,车辆再生制动系统(RBS)作为电动汽车的关键技术之一,受到了国内外学
白洋淀芦苇的资源化利用问题引起了关注,以芦苇为原料生产芦苇基纤维板是一种可能的解决方法。芦苇属于易燃物,尤其制备的纤维板耐火性能较低,易引发火灾且释放大量的烟雾,因此对芦苇纤维板的阻燃研究是必不可少的。本文以芦苇纤维为原料,选取了三种胶黏剂及无机阻燃剂制备了三种阻燃芦苇纤维板,主要研究内容如下:(1)以KH550为改性剂制备了无胶高密度芦苇纤维板(FRFB),以氢氧化镁(MH)、氢氧化铝(ATH)
酪丁酸梭菌(Clostridium tyrobutyricum)是一种常用作饲料添加剂的益生菌,具有调节动物体肠道菌群,修复肠上皮细胞,抗腹泻等益生功能。作为一种内生型芽孢梭菌,在一定的条件下
干扰素刺激基因(Interferon-stimulated genes,ISGs)是宿主体内一群数量庞大的抗病毒基因群,胆固醇-25-羟化酶(Cholesterol 25-hydroxylase,CH25H)是一个已被鉴定的ISG基因,
随着以微电子为基础的信息技术即将达到物理极限,低维超导材料由于能够产生各种新奇物性和具有巨大潜力的应用前景,而成为凝聚态物理领域的研究热点之一。二维薄膜或单晶薄片
金属-有机多孔材料是一种通过金属配位键将金属离子/团簇和有机桥联配体组装成晶态多孔固体材料,其中,金属-有机框架材料和超分子配位笼较为典型。目前,金属-有机多孔材料是
随着车联网技术的不断发展,车对车(V2V)应用场景不断被设计和开发。在无线网络通信过程中,信号衰落和通信安全问题一直是研究的重点。为了降低信号的衰落,传统通信过程中可以通过定向增加天线发射功率、增加发射和接收天线的个数既多进多出(MIMO)技术对抗无线信号衰落。但是相对这些方法,在车载通信网络通信过程中,增加发送功率会增加车载系统的负担,MIMO技术受车载通信设备物理尺寸限制也不能完全被应用。为保
由于海岛城市的生态系统具有独特的敏感性和脆弱性,其生态安全性问题正逐渐成为社会焦点问题。保障海岛城市的生态安全,将有利于优化海岛人居环境和发展外部环境,进而促进经济社会高质量发展,实现海岛城市的区域可持续发展。当前我国城市化快速发展,又大力推行海洋强国战略,而海岛城市作为发展海洋经济的重要载体,其生态环境保护和自然资源利用管理面临严峻的挑战。因此,科学准确地评价海岛城市的生态安全性,探究海岛城市街