【摘 要】
:
在深度学习领域,传统监督学习基于训练集(源域)和测试集(目标域)满足独立同分布的假设。然而,当训练集和测试集不服从同一分布时,简单使用训练集训练出来的深度学习模型,在测试集上往往表现不佳。深度迁移学习的出现,就是为了解决源域和目标域联合概率分布不一致的问题。深度迁移学习方法在减少深度网络模型在源域上的训练误差的同时,尽可能地缩小源域和目标域之间的分布差异,使得预测模型在目标域上也有比较好的泛化能力
论文部分内容阅读
在深度学习领域,传统监督学习基于训练集(源域)和测试集(目标域)满足独立同分布的假设。然而,当训练集和测试集不服从同一分布时,简单使用训练集训练出来的深度学习模型,在测试集上往往表现不佳。深度迁移学习的出现,就是为了解决源域和目标域联合概率分布不一致的问题。深度迁移学习方法在减少深度网络模型在源域上的训练误差的同时,尽可能地缩小源域和目标域之间的分布差异,使得预测模型在目标域上也有比较好的泛化能力。从对齐的概率分布类型的角度来看,现有的深度迁移学习方法主要是对齐边缘分布、或类条件分布,并没有直接对齐源域和目标域的特征与标签之间的联合概率分布。因此,本文的主要研究工作是解决深度自适应网络中的联合分布对齐问题。基于深度网络中源域和目标域的特征与标签之间的联合分布不一致的问题,本文使用扩展的最大均值差异(Extended Maximum Mean Discrepancy,EMMD)来度量两域之间的联合分布差异,提出联合分布对齐网络(Joint Distribution Alignment Network,JDAN)。JDAN在最小化源域的训练误差的同时,通过减小源域与目标域之间的EMMD损失来缩小两个域之间的联合分布差异。大量无监督和半监督深度迁移实验上的结果验证了本文提出的JDAN模型的有效性。本文提出的JDAN模型在多数迁移任务中均取得了当前最高的平均分类准确率。分布差异分析和t-SNE特征可视化分析也验证了JDAN实现了特征与标签的联合分布对齐。
其他文献
通过对水刺法工艺过程的分析 ,论述了在水刺过程中射流对纤维缠结的作用机理及其影响 ,指出了在生产过程中对喷水板的选择原则和注意事项。
黏着斑(FA)连接了胞外基质(ECM)和细胞骨架,能够将细胞内部骨架重排和外部机械环境刺激产生的张力转化为生物化学信号,从而调节细胞形态和行为。Vinculin和p130Cas是黏着斑中重要的适配蛋白,二者相互作用调控着黏着斑的形成与周转。P130Cas是黏着斑中一个力传感器蛋白,在机械张力的拉伸下,通过磷酸化信号调节着细胞的运动。Vinculin与p130Cas的稳定结合对于机械张力在p130C
步态是一种具有安全性、保密性、唯一性的行为特征,可以通过无接触获取。根据步态特征的特点,步态特征适用于监控场景的身份鉴别。然而步态识别的准确率易受外部因素的影响,例如:行走速度、光线、监控角度、遮挡等。为了提高步态识别算法在外界因素影响下的鲁棒性,本文的主要工作如下:(1)为了充分利用步态中的时空信息,本文提出采用双流卷积网络结构实现步态识别算法。双流卷积网络由空间流和时间流两部分组成。空间流和时
推荐系统在应用领域及研究领域都有着重大的意义和价值。推荐系统按照是否利用辅助信息进行推荐可以划分为未利用辅助信息的推荐系统和基于辅助信息的推荐系统。前者仅利用用户的历史行为数据模拟用户的偏好,往往会面临数据稀疏性问题,后者虽然利用辅助信息缓解数据稀疏性问题,但亦存在辅助信息利用不充分的问题。本文基于推荐系统中的Top K推荐任务,围绕基于社交的推荐系统中存在的社交网络辅助信息利用不完全的缺陷展开研
近年来,飞速规划建设的地铁成为了解决大型城市交通拥堵的利器。随着越来越多的地铁投入建设,地铁盾构隧道间净距变得越来越小。随着地铁投入运营后,较小净距工况可能更显著地影响隧道结构及周围土体响应,诱使隧道区段局部产生更大的差异沉降。因此本文分析不同净距工况平行隧道在交会运营时的隧道结构及周围土体响应,继而分析不同净距平行地铁隧道运营期纵向差异沉降。主要内容包括:1)以上海1号线地铁人民广场站附近区间隧
一个案例胜过一打文件。检察机关为大局服务、为人民司法,最终要落到办案上。怎样加强案例工作,用好案例这本"法治教科书",指导办案、以案释法,汇聚法治建设的强大合力?5月7日,最高人民检察院党组书记、检察长张军主持召开最高检案例指导工作委员会会议,研究部署案例工作。加强案例工作,选是基础、编是关键、用是核心。会议听取了案例编选和研究部门的工作汇报。与会人员结合当前检察案例工作的实际,围绕选用、制发、应
近十几年来,世界范围内各类突发性疫情时有爆发,这些疫情不仅严重危害人类健康和生命安全,还会对社会经济发展造成重大影响。面对各类非常规突发疫情的爆发,如何快速、有效地开展应急救援成为重中之重,而在应急救援工作的组织过程中,合理、有效的应急物流网络设计直接决定了应急物资的保障能力,是疫情防控的重要支撑。在归纳了国内外对应急物流选址分配问题的研究现状并详细分析了突发重大疫情环境下应急物流网络优化设计问题
随着全球价值链(GVC,Global Value Chain)时代的到来,作为高技术产业极具代表性的细分行业-电子及通信设备制造业,已经成为各国参与全球产业分工,争夺价值链高端位置的角力场。尤其是美国这样的经济大国,凭借其技术优势和霸权地位已经成为经济全球化的最大受益者。因此,准确测算中美电子及通信设备制造业全球价值链地位,对比分析找出差距后,研究全球价值链地位的影响因素,对我国电子及通信设备制造
随着移动技术的发展、智能设备的兴起,人们对通信技术的研究以及生活便利的追求促使着无线能量传输技术再次被提及。近年来,第5代移动通信(5G)带来的不仅是传统意义上的更高速率、更大带宽以及更强的空口技术,更是面向行业应用和用户体验的智能化网络。然而,在5G背景下,由物联网技术催生的各种机器类通信(Machine-Type Communications,MTC)带来了人与物之间的海量数据交互,更有超低时
锂电行业的快速发展,为环境保护提供了有效的解决方案,为此国家大力提倡新能源技术产业的发展。电动汽车中最核心的部件之一就是电池,然而电动汽车的发展很大程度受到了电池包的制约。因此,以某国外品牌三元锂电池为主要研究对象,对电池荷电状态估计和电池管理系统进行研究,能够开发放电倍率大、安全可靠性高的锂电池包,同时对监测技术进行研究,搭建可靠性测试平台进行验证,本文的主要工作如下:1.电芯品质是做成电池包的