基于深度学习的摘要生成技术研究

来源 :沈阳航空航天大学 | 被引量 : 0次 | 上传用户:cenzijn
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在这个信息爆炸的时代,自动文本摘要技术为人们提供了一种简便快捷的阅读方式,也使其成为当今研究热点之一。目前的文本摘要方法大多都基于Seq2Seq和Transformer两种深度学习框架,其较传统的方法有很大的改进,但仍存在两点不足:(1)对于Seq2Seq模型,其生成的摘要总是丢失一些能表述原文主要内容的关键信息,同时解码时还倾向于生成相同的词而导致重复;(2)对于Transformer模型,其编码方式过于单一,存在语义编码不完整问题。针对上述问题,提出相应方法:针对问题一,本文提出基于特征提取器和语义增强器的摘要方法。该方法先借助特征提取器分析原文的关键特征,以过滤噪声并实现更精准编码。再应用语义增强器获取原文内部语义依赖关系,提高语义相关性并减少重复。实验结果表明,其模型性能有较大幅度的提高,而且其生成的摘要具有较高的连贯性和可读性。针对问题二,本文提出了多注意力融合的摘要方法。在注意力关注范围上,进行了全局注意力机制和局部注意力机制的融合,实现了多关注焦点的结合,丰富了编码内容。在注意力实施粒度上,进行了词级注意力机制和句子级注意力机制的融合,实现了对句子整体的建模,提高了编码完整性。实验结果表明,该模型生成的摘要内容更丰富、全面。最后,设计并实现了基于深度学习的文本摘要生成系统。该系统可以依据输入的文章或文件进行摘要生成,并且支持特征提取和语义增强融合及多注意力融合两种摘要生成方式。
其他文献
本文利用东南极高原昆仑站GPS探空资料、中山站至昆仑站(Dome A)的气象站观测数据及辐射资料,分析了昆仑站地区夏季大气垂直结构特征,研究了Panda‐1站辐射平衡特征和再分析资料
湖泊作为重要碳库,在全球碳循环中有重要作用。在全球变暖与湖泊富营养化的背景下,湖泊碳循环和有机碳的来源不断变化。抚仙湖作为我国典型高原深水湖泊,其淡水资源蓄水量约
《法释[2018]2号》确立的夫妻债务“共签共债”原则和举证责任二元配置,对“时间论”推定规则造成的非举债一方配偶举证责任过重的现象实现了纠偏。但具体认定标准仍有待进一步细化,夫妻债务的清偿和追偿问题仍然未有规定。司法实务上,时间论推定仍被大量适用,旧案的再审压力巨大,裁判中个债推定的倾向严重、“日常家庭生活所需”的标准混乱,超日常债务认定中夫妻合意被扩大解释、非合意型债务推定范围过宽等问题突出。
近年来,我国上市公司大股东无序减持行为对公司治理、市场交易秩序和中小投资者利益均造成不同程度的负面影响,监管部门逐渐开始对其制定规则进行规制。自2015年至2017年,我国证监会连续三年颁布了限制我国上市公司大股东减持行为的规范性文件,企图通过延长大股东的持股周期、限制大股东减持节奏来避免上市公司大股东集中、大量减持给资本市场带来的波动。从目前的监管实践来看,尽管清仓式减持、过桥减持等任意性减持行
随着无线通信用户数量的急剧增加和新型无线接入技术的出现,固定分配的频谱资源将变得十分紧缺。认知网络技术的出现,不仅为解决频谱资源紧缺的问题带来了曙光,也为未来无线网络的融合带来了机遇与挑战。在认知无线网络中引入重构技术,针对不同尺度的重构问题,调整设备的参数配置以满足用户通信服务需求、实现多网络之间的共融共存、提高无线频谱资源的利用率,成为认知网络的一个研究重点。本文围绕认知无线网络频谱资源分配重
人脸三维重建技术可以通过二维图像来认知并恢复面部的几何结构。与传统图像相比,人脸三维模型具有姿态不变性,不会因环境和观察角度的变化产生差异,可广泛应用于人脸识别、生物医学等领域。然而,传统重建算法受限于采集系统和算法精度,长期面临两个问题的挑战:一是无法重建面部皱纹、毛孔等高频细节特征;二是缺少高光贴图,模型的光线反射效果不理想。针对上述两个问题,本文通过理论分析和实验验证,围绕如何重建面部高频细
2010年5月6-7日,广东省北部、东部及珠三角大部分地区出现暴雨到大暴雨、局部特大暴雨的强降水过程。本文运用NCEP再分析资料、地面加密观测资料、高空观测资料、多普勒雷达观
全球定位系统是新一代精密卫星导航定位系统。其中以GPS为典型,系统具有全球、全天候、连续实时的精密三维导航和定位能力。在定位系统中,观测点定位一直是一个重要研究和应用
汽车悬架系统是汽车的主要组成部分之一,可分为被动悬架系统与主动悬架系统。主动悬架系统因克服了被动悬架系统的不足,是目前汽车采用最多的悬架系统。悬架系统性能的优劣对于驾驶的安全性与舒适度有着重要的影响。采用科学的方法对悬架系统进行控制,可提高汽车行驶的稳定性和舒适性。汽车由于长期行驶会使部分元件失效、老化,或在受到意外的外部干扰情况下,悬架系统的控制器、传感器、作动器通常可能出现故障,如作动器的卡死
近年来,随着三维点云数据处理技术的发展,其中未知环境中自主定位,实现全局拼接有着广阔的发展前景。以往的拼接不能实现在未知环境中自主的进行特征点提取,自主完成点云数据的拼