面向中文新闻的文本摘要研究

来源 :大连理工大学 | 被引量 : 0次 | 上传用户:thomas962
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网技术的发展,越来越多的社交媒体网络平台逐渐产生,为人们带来了新的获取信息的途径,成为了人们日常生活中获取公开信息的主要来源方式。相比与传统的新闻媒体,微博、今日头条等社交媒体网络具有更好的互动性和时效性,有着更丰富的新闻表现形式,能够在新闻发生后第一时间帮助人们获取相关资讯。但是社交媒体网络中的新闻并非全部都是关键信息,包含大量冗余内容。人们可能需要花费更多的时间从新闻中获取需要的信息。在上述背景下,本文开展了面向中文新闻的文本自动摘要研究,试图利用文本自动摘要技术对目标新闻文本进行摘要,帮助社会大众快速了解新闻中的关键内容,提升新闻阅读效率。首先,本文提出了一种面向中文新闻的抽取式摘要模型。该模型利用BERT结合词频、位置等外部特征,提取符合新闻文本特点的词嵌入,输入到Bi-GRU模型中进行训练,筛选包含新闻主题相关信息的候选摘要句。实验结果表明,训练得到的抽取式摘要模型能够有效捕获新闻中的关键信息,保证摘要结果连贯、可读,同时获取的关键句子能作为生成式摘要模型的输入,提升摘要结果。其次,本文提出了一种面向中文新闻的生成式摘要模型。模型利用BERT获取词嵌入表示,在指针生成网络模型的解码阶段结合多头注意力机制获取摘要结果,充分利用在不同语义子空间内学习到的信息。同时,模型结合了 coverage机制,保证解码时生成更少的重复文本片段。实验结果显示,本文提出的生成式摘要模型能够有效提升摘要生成的效果,并且能够有效解决生成冗余内容的问题。最后,本文构建了一种面向中文新闻的混合式摘要模型。模型的抽取式摘要子模块结合RoBERTa和多维度的外部特征得到新闻文本的向量化表示,送入Bi-GRU及分类层,筛选候选摘要句。模型的生成式摘要子模块,将UniLM与coverage机制相结合,从候选摘要句中生成摘要。模型训练采用本文提出AELoss损失函数,联合训练两个子模块。实验证明,本文提出的模型在两个公开的中文新闻摘要数据集上均取得了当前的最优结果。相比于单独使用抽取式/生成式摘要模型或其他混合式摘要模型,本文提出的模型在摘要自动评价指标方面明显提升,生成的摘要结果更接近于标准摘要。
其他文献
图像抠取(Image Matting)是指从一张任意输入的图像中精细地抠取出用户所感兴趣的前景物体,该前景可以为人、动物、植物或网状等类别。被抠取的前景可以被多个应用领域所使用,譬如:绿幕电影拍摄及制作、虚拟现实(Virtual Reality)和增强现实(Augmented Reality)、在线会议背景替换、网络主播换装等。随着大数据时代的到来,海量的互联网数据对图像抠取算法带来了一系列新的挑
学位
数据检索是机器学习中重要的研究领域。机器学习算法对数据潜在信息挖掘能力的提升,以及提取的表征对数据相似性可衡量能力的增强,对检索任务而言有着非常重要的研究意义。凭借执行效率高和存储空间低的特点,哈希学习在检索领域中被广泛地研究和应用。哈希学习方法将高维原始空间的数据进行降维处理和编码操作,并映射成短小紧凑的二进制向量。该短小的编码在保持数据间相似性关系的同时,不但提升了检索效率,而且降低了数据存储
学位
随着社交媒体平台的发展,互联网极大地拓展了人与人之间交流沟通的渠道。海量的对话文本在网络上不断地被发布、传播和共享,其中蕴藏了大量用户的主观感受与情感倾向,需借助人工智能等技术进行分析与挖掘。对话情感分析任务为在对话场景下分析语段的情感极性或情绪类别,因对话具有多样的表达方式、复杂的逻辑结构和耦合的情绪因素,使得该任务成为文本情感分析领域的研究热点。本文按短对话到长对话、单标签至多标签的逻辑逐步深
学位
生物医学是一门前沿交叉学科,与人类的健康和生命息息相关。近年来,生物医学领域的电子期刊和文献数量飞速增长,用生物医学文本挖掘技术自动发现隐藏在这些非结构化数据中的领域知识是本领域进一步发展的关键。文档级生物医学关系抽取作为生物医学文本挖掘的一个重要分支,旨在从非结构化的生物医学文档中自动地抽取出存在的关系事实。目前,基于深度学习的方法是处理文档级生物医学关系抽取的常用方法。一方面,在文档级生物医学
学位
在生物医学领域,数量庞大的医学文献逐渐构成了一个丰富的知识宝库,医学文献作为一种重要的知识来源为相关研究者们提供了重要的医学信息,有助于临床诊断、医疗问答系统等相关研究的发展。但是由于数据的增长是十分迅猛的,因此如何准确地从生物医学文献中自动提取信息,如何有效地将非结构化文本数据转换成结构化数据,成为生物医学自然语言处理领域研究的重要方向。本文旨在利用文本分类技术和关系抽取技术对生物医学领域的文本
学位
三维重建是计算机视觉领域重要的研究方向之一,在文物保护、虚拟现实、机器人与自动驾驶等领域都有着广泛的应用。近年来,三维重建领域得到了快速发展,但三维重建模型仍有缺陷。受遮挡和距离传感器等内在因素影响,三维重建模型存在不同程度的缺失情况,因此引入三维补全进行修复。三维补全是三维重建领域中的一个重要研究方向。传统补全方法通过挖掘几何线索或匹配数据库模型实现补全,依赖于先验知识或数据库容量。深度学习方法
学位
多任务优化是当前智能优化领域的热点之一,多任务优化算法在优化多个彼此相关的任务时,通过迁移任务之间的有效知识来提升各个任务的表现效果。但传统的多任务优化算法通常用于优化规模较小的任务组,在面对任务量较大的优化场景时,会出现迁移效果变差、计算成本升高、任务收敛变慢等问题。为解决这些问题,研究者们提出了多任务质量多样性算法,它能够生成大量多样化且表现效果好的解决方案,在一些特定场景下可以同时解决大量任
学位
得益于深度学习的迅猛发展,信息检索领域中基于深度学习的检索模型也层出不穷。自预训练语言模型提出后,信息检索领域相关研究更是进行得如火如荼。作为信息检索领域的子领域,生物医学文本检索领域的研究却因为数据集不全、处理难度高等原因进展缓慢。但生物医学文本检索的发展对于人类健康有着重要的意义。尤其自新冠疫情以来,人们对健康问题的关注度更高、对生物医学文本的需求也更加迫切。因此,本文尝试将信息检索领域的研究
学位
随着医疗信息化建设和生物科技的迅猛发展,生物医学文献和电子病历的数量呈现出指数级增长的态势,蕴含在这些生物医学文本中的信息成为生物医学研究的宝贵资源。但由于生物医学文本大都是以自然语言描述的非结构化形式存在,计算机无法直接对其进行有效的分析和利用。因此,通过生物医学文本挖掘技术对生物医学文本进行有价值信息的提取和利用,将对生物医疗技术的进步和医疗健康领域信息化建设的发展产生深远和积极的影响。生物医
学位
浩如烟海的生物医学文献中储藏着大量非结构化的信息,是生物医学信息挖掘的重要来源,对于隐含知识发现研究而言更是宝贵的待开发资源。一方面,使用自然语言处理技术和深度学习方法自动化进行药物重定位,能够极大地降低药物研发的经济成本和时间成本;另一方面,药物重定位系统作为药物研究人员研发的参考依据,其推断结果需要具备充分的准确性和可解释性。如何高效而准确地将生物医学文本中的信息结构化是生物医学文本挖掘的一个
学位