基于注意力机制的图像生成研究

来源 :青岛科技大学 | 被引量 : 1次 | 上传用户:junyuan__zhang
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度学习理论的提出和发展极大地推动了对图像生成的研究。在基于深度学习的传统图像生成任务中,由于卷积神经网络内部存在局部连接,通过学习局部特征,模型能够较好地生成图像中浅层神经网络提取的纹理风格信息,但是对深层神经网络提取的高级语义特征的学习能力较差,导致生成图像中语义目标出现模糊失真的现象。为提高神经网络的全局特征处理能力,使生成图像中的语义目标更清晰、真实,本文在级联细化网络图像生成模型中引入注意力机制,加强网络内部多维特征之间的全局一致性,提高了由语义标签和复杂文本描述生成真实感图像的质量。本文的主要研究内容及成果如下:(1)通过在级联细化网络内部引入自注意力机制,对第一级精细化模块输出的多维特征图做特征融合,输出带有全局信息的自注意力特征,克服了卷积神经网络局部连接带来的局部性特征缺陷,得到自注意力级联细化网络,提升了由语义标签生成真实感图像中语义目标的清晰度和真实性。通过对Cityscapes验证集语义标签生成图像的语义分割,自注意力模型生成图像的平均像素精度相比原始模型提升了6.2%,mIoU精度提升了22.3%。(2)在自注意力机制的基础上,结合级联细化网络自身输入特性,对第一级精细化模块输出多维特征图和语义标签内多维语义特征做特征融合,提出监督注意力机制,得到监督注意力级联细化网络,由语义布局和语义结构指导浅层网络输出特征完成图像生成,进一步提升了由语义标签生成图像的质量。将Cityscapes验证集语义标签生成图像的语义分割平均像素精度在自注意力模型的基础上又提升了2.4%,mIoU精度提升了4.4%。(3)结合多特征鲁棒性良好的自适配归一化改进了实例分割模型Mask Scoring R-CNN,提升了模型的实例分割精度,通过对生成图像的实例分割克服语义分割对模糊语义群体目标的误判,定量证实了两种注意力模型对生成图像质量的提升。(4)通过将监督注意力级联细化网络作为生成器引入Sg2im模型,提高了模型从场景图表示的复杂文本描述中生成图像的质量。将COCO数据集上生成图像的Inception score提高了19.4%,Visual Genome数据集上生成图像的Inception score提高了19.7%。综上,本文将自注意力和监督注意力机制引入到级联细化网络图像生成模型,通过注意力机制加强了网络输出多维特征的全局一致性,克服了卷积网络局部连接导致的生成图像中语义目标模糊失真的现象。通过从语义标签和复杂文本描述中生成真实感图像的实验,定性和定量证实了注意力机制对图像生成质量的提升。
其他文献
<正>按照党的十九大关于实施乡村振兴战略的决策部署,根据今年中央和河南省委一号文件的要求,立足河南实际,遵循"对接国家战略、体现河南特色、指标科学适用"的原则,在河南省
简要分析了照明光学系统与成像光学系统的区别。介绍了目前光学设计软件的分类。运用一个具体的照明光学系统分析了点光源的光照度分布分析软件的特性。
选取强E1 Nino年(1997/1998年)和强La Nina年(1998/1999年)作为个例,利用中国国家气候中心水平分辨率为60km的区域气候模式(RegCM—NCC)对东亚冬季风进行了数值模拟,结果表明:模式不仅从
海参养殖一般采用轮捕轮放模式,养殖周期较长,参池普遍存在池底老化现象,容易生长海草。海草的大量繁殖直接影响海参的正常生长,海草腐烂后产生的有害物质会导致海参中毒而化
为了进一步确保一次性使用无菌导尿管在临床使用中的安全,避免因乳胶类导尿管致患者发生乳胶过敏反应,研究考察了一次性使用无菌导尿管中可溶性蛋白的含量,参照GB/T 21870-20
随着国家经济水平的不断发展,建筑结构类型的不断创新,冷弯薄壁型钢与轻骨料混凝土逐步走入人们的视线。轻骨料混凝土因为其自重小、隔热性能好,但是强度低、养护不便而未作
慕课、微课等教育信息化成为当前我国高校思政课教育教学发展的重要趋势,高校思政课社会实践教学应积极顺应教育信息化的趋势和要求。教育信息化背景下探索社会实践教学,具有
在唯物主义辩证理论中,任何事物的发展都不是一成不变的,而是处于一个不断完善的过程之中。历经两千年历史传承与洗礼的琵琶乐器,现如今已经逐渐形成了其固定的形制、弹奏方
语义分割旨在为图像中每个像素分配一个对应的类别标签,并被广泛应用于自动驾驶、人脸分割、遥感探测和医疗影像处理等领域中。现有的全监督语义分割算法需要大量像素级标注
介绍了一种全新的除锈工具——钢丝轮除锈机,比较了其与其他常用表面处理工具的优缺点。指出其应用前景广阔。