基于外部知识和记忆网络的句子对建模技术研究

来源 :华东师范大学 | 被引量 : 0次 | 上传用户:mangshengsun1
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着自然语言理解技术的发展,诸如问答系统、智能客服对话等智能系统应用愈发广泛。智能系统的本质是建模自然语言句子,充分理解自然文本的语义,进而执行相应的任务。句子对建模(Sentence Pair Modeling)为自然语言理解的基本任务,它旨在建模两个句子的语义信息并判别其间的语义关系。因此,关于句子对建模的研究有助于下游自然语言理解任务,如自然语言推理和释义识别。当前基于神经网络的句子对建模方法大多仅依赖于训练语料,一方面,其不能有效地学习到模型理解文本的过程中需要的外部常识知识;另一方面,句子对建模过程中文本受关注的部分会随着模型对句子理解程度的变化而动态变化,因此模型需要多轮的深度信息交互处理而非简单的神经网络节点计算。因此,本文将外部常识知识和带有多轮交互的记忆网络引入文本建模方法中,进而实现高性能句子对建模的目标。本文主要的工作与贡献包括:(1)知识自适应神经网络模型:该模型从外部知识库中获取和句子相关的三元组形式的常识知识,然后通过知识吸收门将编码后的外部常识知识自适应地引入神经网络模型中,最后,模型经过知识化的信息聚集和文本推理进行语义推断和关系预测。该模型的创新点在于,在句子建模过程中引入外部知识从而得到关于事实知识的先验,通过自适应地吸收常识知识进而实现更准确的语义推断。(2)双残差记忆网络模型:该模型首先通过多样化注意力机制获得句子级和词级的句子记忆信息,形成双记忆结构。其次,模型基于残差记忆模块进行多轮语义推理从而进行最终文本语义预测。该模型的创新点在于,模型在不同的信息粒度层面得到关于句子的语义信息,并基于该丰富的信息进行多轮动态的信息交互,进而准确地捕捉句子的关键词信息,为后续的语义判断提供可靠的依据。(3)基于句子对建模的主观题自动评分系统:该系统基于上述两个句子对建模模型,为用户提供可靠的文本自动评分服务。针对用户输入的待评文本和标准参考文本,该系统返回给用户待评文本的评分结果并可视化评分细节,以帮助用户更好地理解模型的预测依据。该系统基于Browser/Server架构实现,简洁易用,可随时为用户提供评分服务。
其他文献
近几年深度神经网络在理论和实践两方面都取得了广泛的成功,然而深度神经网络模型的训练有两个约束条件:一是需要有大量的标记数据以防止模型过拟合,二是训练数据与测试数据的分布必须满足独立同分布约束,这两个约束条件严重制约了深度学习模型的应用与扩展。为解决标记数据稀缺以及分布不同问题,一个流行的方法是无监督领域适配方法,此方法旨在利用已有领域的标记数据来解决数据分布不同的其它领域的分类问题。本文主要研究基
学生从开始接受教育开始就开始学习写作,不仅在学习阶段,在生活中也处处需要写作技能,“写作”是现阶段人们学习和生活必备的技能。现阶段,我国中学生的科学写作水平普遍偏低,与主观题相比他们在考试中更善于做客观题。科学的进步需要研究者进行科学写作,但是大多数高校学生在完成毕业论文时都有不同程度的错误,这种情况与学生从小缺少科学写作的练习有很大的关系。生物科学写作能力的培养对于学生的成长也同样有着重要的作用
人工肌肉纤维是近些年发展的一类新型的纤维状类肌肉行为材料,可在外界刺激条件下(光、电、热、磁、溶剂、湿度等)产生可逆的收缩、转动、弯曲等类肌肉行为,拥有比生物肌肉纤
激光增材再制造技术作为近些年新兴起的一项技术已被各领域广泛关注及应用,其气粉流流场特性是影响零件成形质量和成形效率的重要因素。本文以气固两相流理论为研究基础,结合
视觉是人类获取信息的重要方式,而图像也是视觉信息的一种。为了满足人们对图像的各种需求,双摄像头手机已经成为了各个手机厂商的开发重点。根据需求的不同,双摄像头也提供了多种组合,如黑白摄像头、双彩色摄像头、广角与长焦摄像头等等。摄像头的功能不同,拍摄出的图片也会存在一定的差异,通过多源图像融合方法,可以将拍摄的同一场景下的多组图片进行融合,得到一幅视觉效果更佳的融合图像。这是多源图像融合方法在生活中的
日渐普遍的农村土地流转带来了“人地分离”,“两权分离”下农村土地承包经营权制度已无法满足农地适度规模化经营需求。2014年中央一号文件首次在政策文件中提出“三权分置
随着社会的不断发展,全球老龄化进程也随之加剧,患骨质疏松、骨关节炎、类风湿性关节炎等相关疾病的人也越来越多,这些疾病不但影响人们生活的自理能力,也影响人们生活的质量
随着高含水油井的开发难度逐渐增大,采油成本不断升高,通过加大油井油管修复和回收的力度,可显著降低油田综合作业成本。而油管修复质量则是油井作业质量及效率的关键影响因
为了消除大量生产青霉素而产生的青霉素菌渣所带来的隐患,同时又尽可能利用青霉素菌渣中的丰富物质,利用青霉素菌渣制备复合材料的方法运用而生。本文以青霉素菌渣粉为生物材
自国家探索推进“三位一体”合作经济以来,农业资金互助合作组织有了更大发展空间。2018年召开的第十三届全国人民代表大会第一次会议上,习近平总书记强调,应大力发展农业资金互助合作组织,确保农业经济充满活力、乡村社会安定有序。但实践过程中,出现农业资金互助合作组织还款逾期率较高、成员逾期还款金额较大、成员信用参差不齐各种问题,若成员纷纷效仿、潜在信用风险加剧。因此,需要通过信用制度来保障成员讲信用、守