基于深度学习的图像描述模型研究

来源 :辽宁大学 | 被引量 : 1次 | 上传用户:XA1093815462
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
图像描述是一门基于图像识别研究的交叉学科,其主要目标是对给定的图像进行有意义的文字描述。目前,图像描述是计算机视觉领域很重要的一个研究方向,在图像检索、标注、解析方面都有很好的应用前景。虽然相关研究已经取得了很大的进展,但是目前针对图像文本描述提出的相关模型,其语义信息完整度仍不够高,且语言逻辑不够通顺,并存在一定的图像信息损失。针对这些尚未解决的问题,本文主要进行了以下研究:首先,在图像的特征提取方面,本文采用了目前较为流行的深度学习方法进行特征表达。文中针对现有的几种卷积神经网络(Convolutional Neural Network,CNN)模型进行了对比分析,InceptionV3结构增加了网络宽度,在提高特征表达能力的同时降低了计算压力。而ResNet结构中的残差理念则避免了冗余层造成的梯度消失。本文在保证模型效果的前提下提出了改进的残差-InceptionV3模型,对原有的Inception层进行结构简化,并将残差理念融入Inception层中,在降低网络计算复杂度的同时,更快的完成图像的特征提取任务。其次,将图像特征向量输入进神经网络模型中进行语言描述文本的生成。此处所用的人工神经网络为循环神经网络(Recurrent Neural Network,RNN)的变体结构——门控循环单元。本文提出将双层异向的门控循环单元结构作为文本生成模型的主体结构,旨在最大程度的模拟真实的语境分析,在文本分析过程中兼顾前后语境中的语义信息,大大提高了生成语句的准确性和丰富度。此外,引入了复杂注意力机制的概念,提出了“筛选门”结构,将部分生成概率较大的图像特征向量信息直接与双层循环神经网络计算的概率结果进行整合,不仅在很大程度上压缩了模型的预测空间,同时也降低了文本解码模型中信息丢失的概率,使概率较大的图像特征受到更多的关注。最后,本文提出基于残差-InceptionV3网络和双层异向GRU网络结构的图像描述模型Data-to-GRU Image Caption(DGIC)。针对图像与文本的跨模态交互,文中使用基于深度学习的哈希层进行图像特征向量在输入语言生成模型前的预处理,哈希算法的单向搜索性和唯一对应性提高了跨模态映射的精确性。另外,选择Word2Vec中的skip-grams模型将语言文本库中的文本信息转换为词嵌入向量输入进语言模型中,与图像特征向量在循环神经网络模型中进行跨模态交互,生成最后的文本描述。本文使用基础数据集作为训练数据集,通过自适应矩估计梯度下降算法对模型进行训练,使用集束搜索算法完成模型的测试。结果显示,本文提出的DGIC模型在模型收敛后其损失函数值比NIC模型大,但是其模型收敛速率相较于NIC基线模型有较大提升。而且,随着训练轮次加深,DGIC模型生成的描述文本结果有较高的准确率,而NIC模型则大幅下降,说明本文提出的DGIC模型成功避免了模型过拟合问题。根据人工抽样检查模型生成的文本描述结果可知,其描述语句具有很好的逻辑性,更加真实且信息全面。
其他文献
解题反思是对解题过程、解题方法回顾的认识及构建,是解题过程中必不可少的关键环节。但是在实际的教学过程中,解题反思却一直是学生学习数学知识的薄弱点。很多学生在解题过程中不会反思,没有足够的反思意识、没有有效的反思方法,在很大程度上得不到教师一对一的专业性辅导,因此,对高中生数学解题反思能力进行培养,是一项非常有必要的实践研究内容。本文采用文献研究的方法,对查询、购买的关于高中生数学解题反思能力的相关
海洋活动的日益频繁导致海上事故的频发,因此在海上事故发生时,选择一种快速、可靠的海上应急救助的通信传输方式就显得尤为重要。然而海上作业中通信传输的稳定性受环境影响
真空开关因其体积小、寿命长、可靠性高和适用频繁操作等优点,广泛应用于中低压输配电系统。随着我国输电线路电压等级的提高,真空开关应用于高压、大电流领域,已是不可阻挡
中国山区面积广阔、坡耕地比重大,耕地撂荒不仅关系到山区农地的合理利用政策和山区可持续发展政策的制定,还对生态环境问题产生影响,岩溶山区生态环境脆弱,地貌形态复杂,地
我国财政收入的6%~10%由烟草业贡献,稳定烟叶生产对国民经济发展至关重要。然而为确保库存烟叶的稳定消耗,各地烟草公司严控移栽面积,烟叶产量大幅下降。合理密植是提高作物光
蓄电池化成是蓄电池生产工艺中一个重要的环节,良好的化成工艺可以保证蓄电池产品的质量,蓄电池的化成处理需要化成系统来完成,蓄电池化成系统一般包括化成控制设备和化成控
轻量土是指由原料土、轻质材料、固化剂和水按照一定的配比混合而成的土工材料。原料土选用砂土、粘土或建筑工程废土;水选用自来水或无污染的江河水;轻质材料目前应用较多的
随着经济全球化的市场竞争日益激烈,企业不仅要在树立品牌的质量服务竞争中处于优势,还要在控制运营成本中维持收益,才能保证企业良好、稳健、可持续的发展,也只有这样才能在发展中打响品牌,树立形象,立于企业竞争中的不败之地。但是2020年初新冠疫情的爆发,给企业带来了前所未有的冲击,甚至有的企业濒临倒闭。在如此严峻的情况下,就需要企业对其管理有着更加深入透彻的研究。而企业供应链上的各个节点又是至关重要的,
“红水”问题一直是人们所重点关注的水质问题,而现阶段对水质模型的研究通常仅考虑管网水流动过程中由于管壁反应造成的铁含量增加的问题,忽略了由于消火栓死端支管内积累的
王子野是我国当代享誉海内外的的编辑出版家,长期在人民出版社任职。作为一位“学者型”领导,他集编辑家、出版家、翻译家、评论家于一身。在多重身份的交织中,他坚守编辑出