基于遗传算法和截断凝聚SGD训练WGAN

来源 :大连理工大学 | 被引量 : 1次 | 上传用户:luohuaxiyushi
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
生成对抗网络(Generative Adversarial Networks,GAN)是一种无监督生成式模型,包括生成网络和判别网络两部分.GAN经常面临模式崩溃,梯度消失和梯度爆炸等问题,而且训练较为困难.WGAN是GAN的一种变体,通过改进真实分布和生成分布间的分布度量距离,大大降低了生成对抗网络的训练难度.一般采用随机梯度下降法(Stochastic Gradient Descent,SGD)及其变体交替训练WGAN的判别器和生成器,但是采用交替的方式训练WGAN会出现不收敛的问题,而且当判别器陷入局部最优时可能导致模式崩溃.为了提高WGAN的训练稳定性.本文中,我们将WGAN的训练过程看成是求解一个半无限minimax问题的过程,提出了基于遗传算法(Genetic Algorithm,GA)和截断凝聚SGD(Truncated Aggregate SGD,TASGD)训练WGAN的算法.半无限minimax问题是典型的非光滑优化问题,由于组成函数的无限性,常常难以直接求解.我们利用遗传算法进化得到max问题的末代种群,结合不同的离散化策略,将半无限minimax问题转化成一系列与之近似的有限minimax问题;凝聚函数能一致光滑逼近有限minimax问题中的最大值函数,将非光滑问题光滑化,本文利用截断凝聚SGD算法求解有限minimax问题来逼近原问题的解.本文在MNIST手写字体数据集上验证算法的有效性,实验结果表明带新颖性搜索的GA-TASGD算法和基于Boltzmann选择的GA-TASGD算法的图片生成效果较好,说明采用求解半无限minimax问题的算法思想训练WGAN是可行的,为生成对抗网络的训练方法提供了新的研究思路.
其他文献
随着经济的飞速发展,城市机动车数量迅速攀升,而城市市区的面积以及路网交通资源的限制,造成了城市交通的拥挤和事故频发。建立完善的智能交通系统是解决交通基础设施不足与
森林采伐会通过改变林地水热条件、土壤性质以及有机质周转速率等来影响土壤呼吸过程。本研究于2018年生长季观测吉林蛟河阔叶红松林3块不同采伐强度样地以及对照样地的土壤异养呼吸速率、土壤5cm温湿度及土壤化学性质,分析采伐对土壤因子的影响以及不同采伐强度下土壤因子与土壤异养呼吸的关系,得出主要研究结论如下:(1)采伐对土壤化学性质具有显著影响(P<0.05),不同强度的采伐使土壤pH值、土壤有机
运输广泛存在于驴业生产过程中,运输应激造成机体免疫力低下、高发病率和死亡率等问题,带来巨大的经济损失,也逐渐成为制约我国驴养殖业发展的关键因素之一。为探究添加“营养汤”以及改造运输车对缓解驴运输应激的效果,本试验以长途运输后的德州驴为研究对象,通过测定相关指标以及发病死亡情况、体重变化后,经统计学分析,确定了这2种处理对缓解驴的运输应激均有良好的作用;建立了驴的改造车标准和TSSD(驴运输应激综合
好意施惠在现实生活中十分常见,因好意施惠造成的侵权案件数量逐年呈上升趋势。现行法律未对好意施惠及其相关侵权后果予以明确规定,导致法官在处理相关案件时,没有统一的裁量标准。因此,研究什么是好意施惠及其相关民事责任有一定的现实意义。首先通过阐述好意施惠的定义、种类和判断标准,对好意施惠进行了界定。好意施惠是指施惠人出于对受惠人的美好情意,做出的有利于受惠人的无偿行为;将其分为纯粹的好意施惠和模糊的好意
人力资本提升是保障减贫效果可持续性的关键。已有文献多是在家庭人力资本结构同质化的假设前提下估计健康和教育为内涵的人力资本存量的减贫效应,较少关注于家庭人力资本结
中国自古以来就追求“真、善、美”,重情重义,因而有“道德之邦”的美誉。但随着社会进入转型期,行为失范、道德缺失、个人主义、功利主义等问题的出现引起了全社会的关注与
大气重力波是大气在重力和浮力的共同作用下产生的一种波动,作为大气能量和动量传输的载体,对中高层大气循环、气候和空间天气均有重要影响。当大气重力波向上传播通过中高层
近年来我国很多露天矿外排土场排土空间严重不足,所以只能进行内排,将所挖的土方进行堆积处理形成堆积体边坡。边坡破坏是一个动态的,多尺度的破坏过程,涉及到从微孔洞的损伤
滚动轴承是机械设备中的关键零件,也是设备中最容易发生故障的部位,对滚动轴承进行故障诊断的研究具有重要的研究意义。数字化工厂的快速发展,使数据的获取方式变得更加丰富,
三维、准三维的表面顺形电子是最近年来继可拉伸电子之后在柔性电子制造方面出现的一个新的方向。针对准三维表面顺形电子成型过程中出现的电路翘曲、断裂和电路图案映射困难等问题,重点应用图像处理探究了薄膜在准三维表面模型上成型前后的映射关系,同时围绕制造工艺的特点设计并搭建了制造设备,并开发了相应的人机交互界面。本文主要内容包括:1.对本课题制造工艺的流程进行介绍和分析,根据工艺的需求和特征设计、建模并组装