自然语言理解的联合建模技术研究与应用

来源 :北京邮电大学 | 被引量 : 3次 | 上传用户:luyan135
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在面向特定任务的人机对话系统中,自然语言理解模块负责获取用户输入的与任务相关的信息,把用户输入的自然语言文本转换为便于机器理解和计算的结构化语义表示。自然语言理解是对话系统的先导任务,是后续任务的基础,它的性能会直接影响整个对话系统的质量。自然语言理解通常包含领域识别、意图识别和槽填充三个子任务,传统的研究大多分别建模这三个子任务,易出现误差累积的问题,影响自然语言理解的整体性能,为此,出现了联合建模其中两个或多个子任务的研究。本文研究自然语言理解中意图识别和槽填充两个子任务的联合建模,并应用构建人机对话系统中,具体内容包括:提出了一个同时建模意图识别和槽填充两个子任务中交互信息、层次信息以及上下文信息的多级深层神经网络模型。基础模型由两个深层神经网络级联而成,通过采用不同的神经网络变体进行不同的组合,发展了一个联合模型簇。在两个公开英文语料和一个实验室系统获取的中文语料上的实验结果都表明:本文提出的联合模型比已有的联合模型具有更好的性能,在中文语料上的提升幅度甚至超过十个百分点。实验分析表明了交互信息、层次信息以及上下文信息的有效性。提出了一种不依赖外部语料、对于不同语种都适用的缓解自然语言理解中未登录词问题的方法。该方法在上述联合模型的基础上进一步构建了具有显式上下文输入的结构,同时引入数字、字词聚类类别等特征。实验结果表明,该方法有助于降低未登录词的槽标注错误率,尤其在数字未登录词上效果明显,可以降低三十个百分点。基于上述模型,实现了一个自然语言理解模块,并将其应用到一个电信领域的智能问答系统中,表现出良好的性能。
其他文献
<正>2015年1月,四季沐歌曝光率极高。在湖南卫视《我是歌手》第三季中,与韩红、孙楠、张靓颖一同频频出镜的是四季沐歌净水机。在高端家电的颁奖盛典红顶奖中,四季沐歌是获奖
20 0 3年 4月 ,山东莱城区卫生局查获了一个用工业醋酸兑制食醋的加工点 ,当事人是外省人 ,在全国范围内流动制假、售假。卫生局认为其行为应负刑事责任 ,转请公安部门共同调
本文从住宅装饰的市场、消费者、从业人员、上下游产业以及行业协会等不同视角对长沙住宅装饰行业的现状进行了归纳总结:长沙地区家装产业虽起步较晚,行业规范程度亟待提高,但
改革开放以来,我国林业改革与建设取得了巨大成就,特别是十五期间,由于国家对林业发展的高度重视,加快了林业发展的步伐,提出了以生态建设为主的林业政策和林业跨越式发展的
华北石炭—二叠系沉积发育于平缓地台构造背景上。古地理环境分析表明:太原组为潮坪、港湾三角洲、海湾、滨海沼泽及浅海沉积:山西组为潮坪、港湾三角洲、滨海沼泽,分流平原
近年来生物藻因其效率高、选择性好、成本低、操作简便的特点作为一种新型的富集材料广泛用于废水的处理和净化中。生物藻由于其本身的官能团和结构特点的不同,细胞壁含有大
山东省高职教育有了突破性发展,为经济社会建设培养了大量高素质技能型专门人才,丰富了山东省高等教育体系结构,在推进社会主义现代化建设中发挥着重要作用。但是应该意识到,
金黄色葡萄球菌(Staphylococcus aureus)简称金葡菌,是食品中常见的污染菌,该菌认为是引起细菌性食物中毒最普遍的原因之一。国内外由金葡菌引发的食物中毒屡屡发生,金葡菌所
根据超声波检测混凝土裂缝深度时接收信号首波相位反转的原理 ,提出了用正波法检测及确定裂缝深度。在首波相位发生反转变化的临界点上 ,采用换能器对称和不对称布置测量裂缝
根据中医"肾藏精"、"肾主骨生髓"理论,我们自拟补肾益精方防治骨质疏松症(OP),前期通过该方对患者血钙、磷、骨钙素及骨密度的观察,证明该方有一定疗效[1].本研究进一步观察