结合深度强化学习的改进神经图灵机研究与应用

来源 :中国矿业大学 | 被引量 : 0次 | 上传用户:yxyqt
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
机器学习与人工智能的研究发展迅速,机器能够理解的知识也日益复杂,在诸多高级算法的研究中,自然语言处理是一个火热的研究领域,其目的是使机器理解原生的人类语言信息,并做出合理准确的判断。神经网络算法是自然语言处理中一个十分有效的方法,神经图灵机作为神经网络上的一种改进模型,在诸多实际任务中效果显著;深度强化学习的研究赋予了机器不断成长的能力,使机器能够从失败中学习,总结经验,做出调整。考虑上述两大模型的优势,针对传统自然语言处理模型在语义逻辑处理和关键词提取上的不足,以及语句结构调优上的不足,本文分别研究了结合注意力机制的神经图灵机方法,以及应用于自然语言处理上的深度强化学习方法,最终将两者结合共同作用于自然语言处理。首先,提出了基于词级注意力的神经图灵机模型。针对现有自然语言处理模型逻辑理解与记忆能力不佳、语句关键词难以获取的问题,借助神经图灵机对语句序列建模,加强模型对词语的逻辑处理和长时记忆能力;同时在语句的隐层特征上添加注意力层,在词语层面进行权重计算,加强语句关键词作用,提取关键词信息。其次,提出了基于深度强化学习的语句结构生成模型。针对现有自然语言处理中语句结构难以调优且人工干预较多的问题,使用深度强化学习方法优化语句结构的生成策略,筛选语句中的词语。根据具体语境和语言处理任务精简语句结构,使用语句生成模型支撑神经图灵机模型的预测,使两模型形成对偶形式,共同训练,共同提高。最后,将上述两模型结合,设计并实现了基于强化学习图灵机的舆情分析系统。针对现有自然语言处理模型的工程性应用较少、而舆论舆情信息分析需求较大的问题,将本文提出的深度强化学习与神经图灵机相结合的模型进行了封装和代码重构,设计了舆情分析系统界面与业务流程,最终舆情分析系统很好的完成了舆情信息的收集、处理、分析、归档等操作。
其他文献
铜冶炼企业大量使用变频器、整流调压用晶闸管和中频炉等非线性特性负载。虽然节能效果明显,但是这些设备所产生的大量各次谐波给电力系统带来严重的谐波污染和安全隐患。谐波
目的:探讨游离空肠移植重建下咽颈段食管的可行性、技术操作方法及疗效.方法:回顾性分析采用游离空肠重建下咽颈段食管11例,其中喉癌术后复发1例,颈段食管癌2例,下咽癌8例.术中
DPT系列双电源自动切换装置是ABB公司最新研制的一种双电源自动切换装置,用于末端控制的双电源自动切换,用户一般允许有数秒或数十秒的电源巾断,而这段时间取决于断路器的切换时
在绘图板新绘制的图样与现有模板之间的改编中,有经验的工程师就会根据自己的经验余留一定的空间,而这正是智能化模块的优势。
本文探讨了无限维两体复合量子系统量子态的纠缠问题,给出几种纠缠判据,讨论纠缠witness的性质并给出两种构造纠缠witness的方法.主要结果如下:1.给出了无限维两体系统中纯态
近日,浙江省首个中荷产业合作园落户嘉兴市嘉善经济技术开发区,喜力啤酒成为首家入驻中荷产业合作园的荷兰企业。据悉,该产业园被列入首批省级国际产业合作园区,产业园也由此成为
目前,轨道交通已成为国际化大都市中人们日常出行必需的交通工具。在轨道交通车辆内部,真空断路器是一个重要的组件,用于在必要时接通或断开车辆主电路。
"文明"一词在古代中西方均有其渊源,但对于"文明"和"文化"两词的区分却较为模糊,因此,我们在使用"文化"一词时,理应将之与"文明"加以区分。关于文明和文化大体上共有五种区分
近年来,医药行业发展迅猛,随着国家千人计划的开启,众多科学家归国,中国的研发队伍不断壮大,与此同时,监管政策改革,新药上市审批加速;中国在药品研发上的突飞猛进也得到了国际医药界