基于随机丢弃的多鉴别器生成对抗网络研究

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:ddlin2121
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着机器学习,尤其是深度学习等相关领域的蓬勃发展,计算机对于许多困难任务的处理能力已经有了极大的提升。但是在这些算法的实现过程中,大量标注数据的获取依旧非常困难,有些需要人工花费时间进行处理,有些甚至以人类的知识是无法处理的。因而无监督学习越来越受到人们的关注,在深度学习领域中,生成对抗网络(GAN)无疑是十分令人瞩目的。在原始的生成对抗网络中,真实数据是分布在低维流形上的,因而在高维空间对生成对抗网络进行训练所得到的结果是非常不稳定的。真实数据与生成数据的分布在高维空间几乎是没有重叠的,而根据鉴别的原理,这样会使得鉴别器可以非常轻松地将生成样本从数据集中区分出来,使得生成器无法根据鉴别器对数据的区分结果得到有学习意义的梯度。在训练过程中生成器也就无法生成更高质量、更逼真的图片。所以本文从架构的角度出发,尽可能增大鉴别器鉴别的难度,提出训练一个生成器同时对抗多个鉴别器的架构,并随机丢弃鉴别器。在这个架构中,在鉴别器鉴别之前首先将分布投影到低维空间。每一个鉴别器都只关注数据不同的低维随机投影,所有的这些低维投影包含了全部的特征。同时通过计算每个鉴别器的Wasserstein距离,得到最优鉴别器,保证最优鉴别器不被丢弃的同时,根据鉴别器的表现情况,为鉴别器分配丢弃概率。采用这种架构后,多个鉴别器可以向生成器提供稳定且有学习价值的梯度,生成器根据梯度进行学习,进而努力生成与完整数据分布一致(近似)的样本,以骗过所有鉴别器的判别。而随机丢弃鉴别器可以避免过拟合情况的发生,还可以保证鉴别器组整体工作的质量为最优。为了验证新架构生成图像的质量,在MNIST(手写数字)、Cifar10(小型物体)、CelebA(名人人脸)三种数据集上与DCGAN进行了对比实验,并从IS、FID、损失函数值三个角度进行了评估。新架构生成图像无论从质量还是多样性,都强于DCGAN。同时为了验证鉴别器个数对架构的影响,还对鉴别器个数分别为12、24、48进行了对比实验。生成图像质量随鉴别器个数的增加而提高。
其他文献
肾素-血管紧张素系统(RAS)是人体内重要的体液调节系统,包括血管紧张素转换酶(ACE)、血管紧张素Ⅱ(Ang Ⅱ)、血管紧张素Ⅱ 1型受体(AT1R)等成分。当肝脏受到酒精等致病因素的
有机阴离子转运多肽(Organic Anion Transporting Polypeptides,人类:OATPs,动物:Oatps)家族是重要的细胞膜转运蛋白,广泛分布于肝脏、肾脏、小肠、睾丸、血脑屏障等不同的组织
量子点(QD)是一种新型的纳米材料,其三维尺寸都小于对应的激子波尔半径的两倍。QD独特的光学性质吸引了研究者们的持续关注。碳量子点(CQDs)相对于常见的硫化镉、硒化镉等量子点,
脱氧雪腐镰刀菌烯醇(Deoxynivalenol,DON)属于单端孢霉烯B族,是自然界分布最为广泛的霉菌毒素之一,对人类和动物具有广泛的毒理作用。DON能引发猪的呕吐反应,所以被称为呕吐
为了应对越来越严格的环保法规,提高燃油的单位经济性,汽车轻量化已经成为汽车发展的趋势之一。车架作为汽车结构里的一个重要部件,向下受到悬挂系统的支撑,向上受到载重的挤
切换系统是混杂系统的一个重要的分支,通常由一定数量连续(离散)子系统和一组恰当的切换信号组合而成,在控制学科中的一项重要的研究课题是分析切换系统的稳定性和镇定性问题。随着现代控制系统网络化水平不断提高,网络控制通过无线方式可以减少布线且维护方便的同时也不可避免的带来如信道堵塞、资源浪费等问题。有文献分析,事件触发机制通过设定的触发条件可以减少资源浪费等现象,但目前事件触发切换系统的研究尚在起步中,
本文分别研究了广义的Zakharov-Kuznetsov方程与三维ZakharovKuznetsov方程对于其初值问题解的指数衰减性.具体地,联系该问题的解在加权Sobolev空间的持久性和唯一连续性,证
糖尿病神经病理性疼痛(Painful diabetic neuropathy,PDN)是一种特殊类型的神经病理性痛,是糖尿病最常见的、顽固并发症,给病人带来折磨、严重影响病人生活质量。目前临床治疗效果极差。最近趋化因子CXCL13及其受体CXCR5被证明在由外周组织炎症或神经损伤诱导的慢性疼痛中起关键作用。然而,在糖尿病神经痛中CXCL13及CXCR5是否参与进而如何参与糖尿病性神经痛仍不明确。在
图像分类作为计算机视觉的基本问题,随着深度学习的引入得到了诸多发展以及提升。但在训练分类模型时会不可避免地出现过拟合现象,这会使得最终训练出来的网络效果不好。过拟合是指由于模型过于复杂或数据量不足,网络拟合的结果仅接近于训练集,但并不会在测试集上取得良好的表现,即网络不具备应有的泛化性。Dropout为主要针对神经网络的正则化措施以及策略,它通过随机屏蔽掉单元使得每个单元的“重要性”趋于一致,从而
随着对分子自组装研究的深入,由分子自组装形成的新型材料已广泛应用于各个领域。其中多肽分子的自组装由于肽分子优良的生物相容性和多变的可设计的分子结构,近年来受到越来