基于深度学习的口语理解技术研究

来源 :西北师范大学 | 被引量 : 0次 | 上传用户:xiaohonghe
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
任务型人机对话系统是自然语言处理领域当前的研究热点,相关技术发展近年来一直受到学术界和产业界的广泛关注。口语理解是任务型对话系统的重要组成部分,旨在将用户以自然语言形式输入的话语转化为结构化的语义表示,包括领域、意图、槽位等。尽管近年来口语理解研究提出的技术模型性能在逐步提升,但由于对话系统形式多样,已有的口语理解模型依然存在任务差异性大、泛化能力弱等难点。针对以上问题,本文从三种不同形式的对话系统出发,对不同口语理解技术的适用场景及改进展开研究。本文的主要贡献如下:(1)针对单轮对话口语理解中子任务无法进行显式特征交互等问题,提出了一种类型化迭代方法。该方法使用类型化抽象机制对语义槽填充任务的编码信息进行抽象化处理,用于增强意图识别任务性能。此外,该方法通过迭代机制实现编码信息双向交互,同时可以减轻由错误传播产生的信息误导。在两个公开的单轮对话数据集(ATIS和SNIPS)上的实验表明,本文提出的方法在多项指标上的性能均有明显提升。(2)针对多意图口语理解任务,提出了一种独立动态交互网络。过去的口语理解研究中,一个重要的假设是每轮对话中用户仅表达一种意图。然而在对话系统的实际应用中,用户可能在一句话中表达多种意图。针对这一特殊场景,本文提出一种独立动态交互网络,该网络通过基于图注意力机制的独立动态交互层,为每个词例捕获不同意图的细粒度语义信息。在DSTC4等多意图数据集上的实验结果表明,本文提出的独立动态交互网络在多意图识别任务中性能有所提升。(3)针对多轮对话口语理解任务,已有研究使用注意力机制模拟图结构来引入历史信息,但这种方法无法显式利用对话状态的结构性。此外,如何生成复杂格式的对话状态也为研究带来了挑战。针对以上问题,本文提出一种状态记忆图网络,该网络通过构建基于对话状态的状态记忆图保存历史对话信息,并使用图结构与当前对话进行特征交互。另外,本文还设计了一种基于状态记忆图的复杂对话状态生成方法。在多个公开的多轮对话数据集(包括中文数据集Cross WOZ、英文数据集Multi WOZ 2.0及Multi WOZ 2.1)上的实验结果表明,本文提出的状态记忆图网络可以有效提高联合正确率,并提高模型预测速度。
其他文献
茵陈蒿汤源于张仲景的《伤寒论》,由茵陈、栀子、大黄组成。有研究表明茵陈蒿汤有抗肝损伤、防治脂肪肝、抗肝纤维化等功效,临床上常用于治疗黄疸性肝炎、急性病毒性肝炎、肝内胆汁淤积等湿热内蕴证,对于肝脏疾病的治疗有很广阔的应用前景。在茵陈蒿汤基础上加味甘草能降低栀子的毒性,制成口服液可用于鸭病毒性肝炎的治疗。本试验首先通过对十个产地的加味茵陈蒿口服液原料药进行筛选,然后选用最佳产地的原料药进行加味茵陈蒿口
猪瘟(Classical swine fever,CSF)、猪繁殖与呼吸综合征(Porcine reproductive and respiratory syndrome,PRRS)、猪伪狂犬病(Pseudorabies,PR)、猪圆环病毒病(Porcine circovirus disease,PCVD)是当前威胁养猪业的主要病毒性传染病,给我国养猪业造成了巨大的经济损失。随着“一带一路”政策的
对自动导引小车(Automated Guided Vehicle,AGV)的研究能直接地映射到医疗服务领域。本文目的是为了搭建一台医疗服务自动导引小车,配合医护人员完成送药、巡诊等工作。在医院这种特殊的工作环境中,由于无菌及低噪声的限制,使用自动导引小车配合医护人员完成相关工作恰到好处。此时需要自动导引小车具有良好的即时定位与地图创建(Simultaneous Localization And M
猪δ冠状病毒病主要由猪德尔塔冠状病毒(PORCINE DELTACORONAVIRUS,PDCOV)引起的一种肠源性、接触性、传染性疾病。各个日龄阶段的猪均易感,主要侵害5~21日龄的哺乳仔猪,仔猪感染后出现腹泻、呕吐等急性临床症状,死亡率高达100%。PDCOV感染后的临床症状、病理变化及流行病学与猪流行性腹泻病毒(PORCINE EPIDEMIC DIARRHEA VIRUS,PEDV)极为相
本文主要探究的是,在Hilbert空间中,由一类随机时滞发展方程所驱动的无穷区间上的最优控制问题,其对应的伴随方程是以超前倒向随机发展方程的形式给出的.首先,我们通过对无界算子A*施加限制条件的方法(我们假设算子A*是极大耗散性的),建立了关于超前倒向随机发展方程解的先验估计.这样一来,我们就可以在探究过程中使用It?不等式,同时,也可以避免It?公式以及能量等式不适用的问题.其次,我们通过解的逼
脂肪组织是动物体内重要的内分泌器官,其代谢稳态也是机体能量代谢平衡的体现。线粒体功能的改善有利于白脂棕色化并能够促进生物体内能量代谢稳态;且线粒体结构与功能与多种生理过程密切相关,深入了解线粒体结构与功能及其调控机制,对优化家畜的养殖管理模式及相关疾病的预防具有重要意义。改善线粒体功能与促进棕色化将有助于调节代谢稳态,促进脂肪重塑,改善畜禽肉品质。甲硫氨酸脑啡肽(methionine enkeph
近年来,规模化养殖蓬勃发展,不仅节省了人力物力,并且很大程度的提升了经济效益。但与此同时,与之相匹配的养殖观念、管理水平、防疫工作等方面并未发展完善,因此,也带来了许多负面影响。其中,子宫内膜炎发病率较以往相比有所增加,值得我们格外关注。子宫内膜炎是奶牛产后常见疾病,对奶牛的生殖繁育系统有着不可逆转的严重危害,造成病牛流产、屡配不孕、死淘率升高、饲养成本增加、经济效益降低等问题。因此,调查清楚规模
随着膳食结构的改变,人们对肉类食品的需求与日俱增,畜产品产量随之增长。进而饲料消耗量大幅升高,饲料作物的广泛种植加大了农业水资源压力。动物水足迹是指通过生产链的各个步骤来量化的关于牲畜饲养所消耗和污染的直接和间接的淡水的体积,畜产品水足迹是基于动物水足迹,与产品加工所必需过程的水足迹之和。中国是世界上最大的猪肉生产国,同时猪肉也是我国主要的畜产品,但是猪肉产量剧增且各地猪肉产量空间分布不均,以及作
乳房炎对山羊产业造成了一定的经济损失。乳房炎特别是隐性乳房炎的早期诊断在山羊乳房炎预防和治疗工作中具有重要意义。抗菌肽S100A7具有快速诱导合成和分泌,对病原微生物敏感等优势,因此是一种潜在的山羊乳腺炎早期诊断标志。而且,抗菌肽S100A7是机体合成的一类小分子多肽,属于非特异性免疫系统的固有组成成分,除广谱抗微生物活性外,还参与免疫调节,几乎无耐药性。近年来,抗菌肽S100A7在预防和治疗山羊
近年来,随着粒子物理实验规模的不断扩大,探测器前端读出电子学的通道数也在不断增多。专用集成电路(Application Specific Integrated Circuit,ASIC)代替了传统分立元件搭建的前端电子学电路,更好地满足现代实验下高密度、高事例率、高速度的读出需求,被广泛使用。探测器前端电荷读出ASIC(后简称电荷ASIC)使用时,在收集电荷脉冲,输出模拟信号后,还需要配套的电子学