基于生成对抗网络的无监督特征学习研究

来源 :上海交通大学 | 被引量 : 0次 | 上传用户:xbalr
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着移动设备与互联网的发展,图像数据的使用愈加普遍,对于图像数据进行提炼与表达,即对图像的特征学习也越来越受到人们的重视。对于图像任务,模型的表现很大程度上取决于特征的好坏,良好的特征使得模型更容易提取有效的信息。传统的特征提取方法往往需要手工提取且效果较差,基于深度学习的特征提取方法往往效果较好,但是特征的含义难以理解。目前大多数的特征学习模型采用有监督学习,而本文将使用无监督学习的方式研究如何学习到解耦的图像特征。为了提取图像特征以及生成特征变化的图像,本文使用生成对抗网络(Generative Adversarial Network,GAN)作为基础模型。为了使模型学习到解耦的特征,本文在双向生成对抗网络(Bidirectional Generative Adversarial Network,Bi GAN)的基础上加入隐变量,同时加入多个预测网络,并最大化每个预测网络对于对应隐变量的预测误差,使得各个隐变量之间互相独立,从而使得模型学习到解耦的特征。由于采用无监督学习,为了防止模型学习到无意义的特征,需要通过判别网络与其他网络模块之间的对抗训练,对其他网络进行约束。通过在MNIST与CelebA数据集上进行实验,学习到了包括数字宽度、人脸眼睛大小等特征,并且可以通过改变隐变量控制生成图像特征的变化。进一步地,为了改善模型的性能,本文通过使用残差模块代替普通卷积网络模块,在CelebA与Cifar-10数据集上可以生成更加清晰自然的图像,不过也会导致训练成本的增加。同时,通过使用FID与Inception Score作为量化指标,更加准确地比较了改进模型与其他方法的差距。最后,本文将训练好的模型提取到的特征应用在二进制图像检索任务中,并获得了与专为图像检索任务设计的模型相当的效果。
其他文献
视频服务近些年来在互联网以及移动互联网的流量占比逐年增加,用户人数也呈现增长趋势。用户对视频服务需求的提升推动了新一代,高质量视频标准以及视频技术的产生与发展。超高清(Ultra High Definition,UHD)视频,特别是其中的高动态范围(High Dynamic Range,HDR)视频,是近些年来视频技术发展的重要方向之一。随着HDR视频显示技术,以及HDR视频传输技术的成熟,HDR
自主避障系统是移动机器人自主性的核心体现之一。提高非结构化环境下自主避障系统的安全性和可靠性是当前自主避障系统的重要研究需求。非结构化的环境中可通行区域的几何结构复杂,种类多样,区域边界不清晰,且环境状况不固定。传统的避障系统主要使用几何结构信息和低层次的视觉信息,缺少对语义信息的考虑,因而在非结构的环境下难以区分不同的可通行区域,诸如草地、自行车道、人行道等;并且,传统的避障系统没有衡量地形、语
下一代无线通信系统将会是超快速,超低延迟以及超可靠的。由于低密度奇偶校验(Low-Density Parity-Check,LDPC)码译码复杂度低,误码平层低,能够高速并行运算,因此在未来通信系统中将拥有巨大发展潜力和广阔前景。在高斯噪声下LDPC码的置信传播(Belief Propagation,BP)译码能达到接近香农极限的性能。和积(Sum-Product,SP)算法和由其简化的最小和(M
近年来,随着机器学习在分类、检测、推荐等多个领域取得显著成就,机器学习方法已经被广泛地应用于实际工业任务中,并取得了非常好的效果,创造了大量社会价值。然而,在真实场景中应用机器学习算法仍面临着非常多的问题。首先,目前的机器学习算法往往受到海量数据的驱动,但是随着整个社会对个人隐私保护意识的加强,对数据的收集、存储以及应用正受到越来越多的限制,这就为机器学习长久的发展与应用增加了阻碍。针对目前机器学
随着互联网及通信技术的发展,视频数据的产生越来越快捷,应用越来越普及。利用计算机辅助人们分析视频具有广泛的应用前景。行为识别作为视频分析课题中的一个重要子领域,相关研究工作具有很高的价值。神经网络技术的发展如火如荼,基于深度学习的行为识别算法已经成为该领域的主流研究方向。大部分主流数据集及网络结构都十分依赖视频数据中的空间信息,并不适用于细粒度的行为识别任务。细微差异动作识别有很多应用场景,如体操
随着线上零售的天花板效应显现,线下零售重新得到关注。线下零售以服务取得先天优势,而服务通过销售人员传递给顾客,因此提升销售人员的能力是目前企业管理实践的诉求。销售人员通过多年的经验积累,形成了独有的知识和技能,用以处理与顾客、同事与主管的关系,这些知识与技能构成了销售人员能力的核心。知识共享可以帮助销售人员共同掌握销售的知识与技能,有助于提升个人、团队乃至组织的竞争力。因此,有必要探索零售行业一线
图像的非真实感渲染是计算机图形学领域的一个重要研究方向,其具体的含义是指利用计算机来模拟各种视觉艺术的风格,从而绘制出带有艺术风格的图像。卡通风格也是一种图像艺术风格,伴随着近年来新媒体艺术的兴起和社交网络的流行,大众对于个性化卡通风格图像的需求日益增长,对于图像卡通风格渲染算法的研究具有重要的意义。图像卡通风格渲染是一项具有挑战性的图像非真实感渲染任务,其目的是将真实照片转换为卡通风格的非真实感
近年来,随着模式识别技术和计算机运算速度的快速发展,越来越多的深度学习技术被应用于各个领域。而基于深度学习的唇读技术也因其出色的识别性能受到了国内外学者的广泛关注。研究唇读的目的是利用嘴唇图像序列的视觉信息来补充语音等听觉信息,进而提高计算机系统对语言的理解能力。嘴唇图像分割有利于自动化提取嘴唇轮廓等信息,直接影响后续说话内容识别模块的性能。因此,实现精确的像素级嘴唇区域图像分割对唇读技术的应用具
得益于硬件计算能力的提升,深度神经网络越来越广泛地应用于计算机视觉任务中。为了提取更多的特征,提高网络的鲁棒性,神经网络呈现出层数越来越深,参数量越来越大的特点。桌面级GPU如NVIDIA 1080Ti完全可以训练和部署大型网络。但是移动设备如智能手机、无人机有着算力弱、带宽小、存储空间少的特点,使得大型的深度学习模型在其上部署面临很大挑战。因此将模型压缩后使其在资源受限的硬件平台上有效部署成为了
近年来,AI技术逐渐产业化。一直备受关注的计算机视觉领域的成果在商品识别、智能安防、智慧城市等领域纷纷落地开花。人脸识别、行人检测、行人重识别、行人搜索等技术与安防领域的实际需求十分契合,也因而得到了越来越多的关注。本文在各种经典计算机视觉任务模型的基础上,对行人搜索技术在实际应用中十分典型的一体化搜索场景和严重非对齐搜索场景进行了分析,并提出了相应的模型与算法。一体化行人搜索场景是指行人检测与行