论文部分内容阅读
深度前馈架构为计算机视觉及其他领域的各种任务带来了令人印象深刻的先进技术。但只有当有大量标记的训练数据可用时,才会出现这些性能上的飞跃。由于数据集偏差或域移位的现象,在一个大型数据集上与这些表示一起训练的识别模型不能很好地推广到新的数据集和任务。虽然可以在任务特定的数据集上进一步微调这些网络,但是获得足够的标记数据以正确地微调深层多层网络所使用的大量参数通常是非常困难和昂贵的。针对上述问题,本文结合深度生成对抗网络研究无监督域自适应的方法,使在有标记源域数据上训练好的深度模型能最大准确的应用于无标记目标域,与其他经典方法进行对比,并在不同数据集上测试验证。本文的主要研究内容包括:首先,基于深度网络的无监督域适应,在AlexNet网络的基础上加入了自适应层,引入最大平均差异的域混淆损失和正则化项来学习语义上领域不变的表示。通过最小化分类差异和最大化域损失的联合损失的方式训练深度网络,将域混淆度量用于选择适应层的最佳尺寸,微调表示形式。在域适应基准Office数据上评估3个传输任务,并研究了MMD正则化如何影响学习。然后,基于生成对抗网络的思想,在AlexNet网络基础上引入对抗性损失学习表示,生成对抗网络通过对抗训练可以生成非常逼真的图像,对抗性损失更加智能的度量域之间的距离,无需权重共享,同时引入辅助分类任务,最大限度的丰富训练样本,增强学习到特征的泛化性能。分别在数字数据集和遥感数据集进行实验,与其他经典的方法精确度比较,并在遥感数据集上给出了混淆矩阵。最后,考虑到类之间特定于任务的决策边界,通过利用特定于任务的决策边界来对齐源域和目标域的分布。用2个分类器从生成器中获取特征,对源样本进行正确分类,并同时训练它们以检测不包括在源域边界内的目标域样本。测量两个分类器之间的差异并训练生成器以最大程度地减少差异,避免生成器在源域的边界范围之外生成目标特征。使用批归一化,使每一层的值在有效的范围内传递下去,实现更好的网络性能。实验在数字数据集以及合成图像与真实图像上适应,得出差异损失和2分类器的精确度变化,并获取了特征的可视化。