【摘 要】
：
句子分类是自然语言处理中的基本任务。通过句子分类可以有效支撑情感分类、关系抽取、新闻主题分类等任务。现有句子分类模型采用深度神经网络自动从原始句子中抽取抽象语义特征。在卷积神经网络中,每个输出对应全部输入的抽象表示,输入句子中的某些单词具有更强的分类特征,然而经过卷积操作后容易混淆其它单词的抽象表示,从而弱化单词的分类效果。另外,在深度神经网络中,通过叠加多层神经网络,一方面可以获取句子的高阶语义
论文部分内容阅读
句子分类是自然语言处理中的基本任务。通过句子分类可以有效支撑情感分类、关系抽取、新闻主题分类等任务。现有句子分类模型采用深度神经网络自动从原始句子中抽取抽象语义特征。在卷积神经网络中,每个输出对应全部输入的抽象表示,输入句子中的某些单词具有更强的分类特征,然而经过卷积操作后容易混淆其它单词的抽象表示,从而弱化单词的分类效果。另外,在深度神经网络中,通过叠加多层神经网络,一方面可以获取句子的高阶语义;另一方面,由于梯度消失的问题,深层次的结构反而会导致性能的下降。为了解决上述问题,本文设计了一种深度渗透网络结构。该模型能使显著特征在更深层的网络结构中传递,并构建较长的语义依赖关系,保留有用的语义特征,从而更好的获取到句子中的高阶语义特征,提升句子分类的性能。本文的主要工作如下:（1）基于上采样的深度渗透网络研究。针对神经网络中深层结构导致的高阶语义特征弱化问题,本文提出了一种基于上采样的深度渗透网络。该网络在卷积操作之前利用上采样强化文本的语义特征,使显著特征能够在深层结构中逐层渗透,并在高层网络中构建显著特征之间的语义依赖关系。渗透网络能有效提取出句子中的高阶语义信息,解决句子分类中由于深层神经网络导致的语义消失。通过实验验证,深度渗透网络的语义特征保持能力以及语义依赖构建能力相较于传统方法都有显著提升。（2）基于深度渗透网络的句子分类模型。在深度渗透网络的基础上,我们设计实现了一个具有两个通道的深度神经网络模型。该模型借鉴了金字塔模型的思想,能够有效利用网络中不同深度的特征,学习句子中不同粒度的语义特征以支持句子分类任务。通过在新闻文本分类、情感分类、关系识别等多个任务上进行验证,该模型在多个任务中均取得了优于其他模型的表现。通过实验分析表明,随着结构的深化,深度渗透网络具有稳定的性能。它在句子分类方面取得了更好的性能,在相关的工作中取得了较好的效果。
其他文献
多年来,医疗机构之间一直存在信息壁垒,阻碍了技术交流和诊疗结果互认,因此,推动医疗信息共享和业务协同成为医院信息化建设中的重要研究内容。其中,电子病历的借阅将在医院信息化建设中发挥重要作用,当医疗需要时,随时随地提供安全、可靠、实时地访问患者医疗记录的能力。目前,学术界已提出多种电子病历借阅方案,但是并未对电子病历借阅过程中的安全防范措施进行系统的研究,这无疑阻碍了电子病历相关工作的推进。针对上述
减税降费作为宏观政策逆周期调节的重要手段，是深化供给侧改革、释放实体经济活力的重要举措。增值税在结构性减税中发挥着举足轻重的作用，在当前大规模减税降费、降低实体经济运行成本的背景下，必须看到我国增值税制度中仍存在着税率复杂等问题，影响了征税效率，削弱了增值税的中性优势。文章通过运用投入产出模型检验我国未来增值税可行的简并税率方案，测算简并税率后对我国财政收入的影响，寻找适合我国的增值税税率方案。
近年来，农村留守妇女群体涌入乡村社区经济、社会和文化等公共空间，成为乡村振兴的重要参与群体。本文以贵州省黔南、黔东南、黔西南和安顺等地州市的农村女性专业合作社为调研对象，总结了农村女性专业合作社的特点，分析了其助力乡村振兴的逻辑路径，认为乡村振兴必须正确认识和高度重视农村妇女的价值，加强对农村女性合作社的组织化建设。通过案例调研，认为推动农村女性合作社的建立和发展，不仅需要从微观层面上激发农村女性
文字作为一种信息传递的载体,以丰富的形式存在于我们的日常生活中,随着社会的不断发展,越来越多的应用场景需要提取图像中的文字信息。近年来,随着深度学习技术的不断发展,场景文本检测领域突破了原有的发展瓶颈,在人机交互、无人驾驶、智能检测与检索领域中发挥着重要的作用,成为计算机视觉和模式识别领域热门的研究方向之一。然而,目前在场景文本检测领域仍存在两个严峻的挑战:第一个挑战是场景文本尺度差异问题,第二个
为提升国家治理能力现代化，国土空间规划新体系初步建立。一方面，国土空间规划全面转型，生态文明引领下城乡发展转向追求质量，规划编制转向多规合一，空间对象转向存量空间，实施管理转向全生命周期的动态监管。另一方面，面对规划体系重构，当前空间治理模式存在规划管控和传导不足、重编制轻实施、对过程监督不足难以保障实施过程和结果最优等诸多问题。在编制宁波市国土空间总体规划过程中，围绕管制方式、传导模式、实施路径
城市的发展离不开城市建筑工程以及汽车工业的支持,随着建筑工程和汽车数量的增加,城市的渣土量在日益增多,道路货运行业也呈现蓬勃发展的势头。在货运行业中,一直以来,渣土运输行业普遍存在着一些管理难的现象,其主要表现在管理者无法有效的管控车辆的运行、安全等情况。其中作为车辆操控者的驾驶行为是影响渣土运输安全的重要因素。研究渣土车驾驶员的驾驶行为对于在渣土运输中预防安全事故、促进智能化交通及驾驶者辅助系统
本文以企业市场营销管理中敏捷性营销模式探索为重点进行阐述，首先进行企业市场敏捷性营销管理的概述，其次阐述企业经营管理中运用敏捷性营销模式的必要性（完善市场导向组织的建设、增强管理队伍的营销质量、体现营销体系的运作核心、优化顾客管理结构），再次从形成敏捷与协调为核心的市场导向机制、进行营销交流创新、完善顾客管理结构体系、关注营销管理队伍组建、完善核心营销计划几个方面深入说明并探讨企业市场营销管理中构
随着移动终端智能通信设备定位功能和数据地图的普遍应用,基于位置的服务（Location-Based Services,LBS）得到迅猛发展,已经成为一种新的服务模式。与此同时,在云计算、区块链等技术的推动下,与新兴技术的融合已成为新的市场发展趋势,促使LBS应用在过去几年高速发展。然而,LBS的广泛应用也使用户面临数据隐私泄漏的威胁。为此,许多位置隐私保护算法应运而生,其中应用较为广泛的是K-匿名
微波技术可以结合机械破岩设备用来破碎高强度岩石,提高掘进效率,降低器械磨损率。实际工程中,岩体通常只有一面暴露在外,因此需要对单面受微波辐射后的岩石力学性能和破碎特性变化规律进行研究,以满足实际工程需要。本文设置了不同的微波辐射时间和功率,利用多模微波加热系统、工业热成像仪、应力应变控制式三轴剪切渗透试验仪、声发射（AE）系统、数字图像相关测量（DIC）系统研究了微波后的玄武岩试件温度分布规律、力
本文以贵阳六广门地下污水处理厂工程为研究背景,在室内岩石试验及现场监测数据的基础上,对下穿隧道截断桩锚支护结构的稳定性进行研究,总结深基坑桩锚支护结构局部截断的研究现状及内力计算方法,通过理论计算和数值模拟这一特殊工况下,周围土体、邻近建筑物以及桩锚结构应力及位移场的变化规律并提出了相应加固措施。在城市地下交通网络错综复杂的今天,这样的研究显得极有意义。论文首先重点总结了目前国内外深基坑工程的发展