基于神经网络的句对齐研究及应用

来源 :苏州大学 | 被引量 : 0次 | 上传用户:qiuzy
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
神经机器翻译(NMT)模型凭借着优异的翻译性能迅速成为机器翻译领域的主流模型。神经机器翻译模型的训练通常依赖于双语平行语料,是否拥有足够数量的双语平行语料往往是机器翻译模型性能是否优越的重要决定性因素之一。作为一种自动关联不同语言句子以获取双语平行句对的技术,面向机器翻译的双语句对齐技术拥有着广泛的研究。早期的句对齐技术主要基于特征工程,通过双语句对的长度、长度比和双语词组对照等特征进行句对齐;然而,该方法的特征提取过程往往相对繁琐且个别特征通常不能准确全面表达文本语义信息。鉴于神经网络在机器翻译等序列处理任务上的成功应用,本文采用基于神经网络的句对齐方法,通过神经网络的训练自动获取双语语义对照信息。此外,本文使用句对齐技术从互联网网页文本中抽取双语平行句对,并利用获取到的平行句对改善机器翻译模型的翻译性能。本文的研究内容主要包含以下三个方面:(1)基于句子向量化表征的句对齐。神经网络在处理文本序列任务上有着很成功的应用,双语句对齐任务同样属于双语文本序列问题;为此,本文采用神经网络、基于自注意力机制神经机器翻译模型将不同语言的句子映射为同一向量空间上的句向量,并通过向量间的相似度计算实现双语句对齐。本文在BUCC-2017句对齐任务上进行实验,实验表明基于自注意力机制的句子向量化表征模型能有效实现句对齐;同时,通过对模型的实验分析本文发现BUCC-2017句对齐数据集的一些不足之处。(2)无监督句对齐。先前的句对齐技术大多依赖于双语平行语料,如双语平行句对、双语词典等。对于低资源领域,往往因为缺少双语平行语料而难以有效实现句对齐。为此,本文尝试采用无监督方式实现句对齐,希望借此改善低资源领域双语平行语料稀缺的现状。本文结合无监督双语词向量表征技术,将低资源语言对的相应句子进行同一向量空间上的向量化表征,并结合特定的相似度衡量方法进行句对齐。在BUCC-2017句对齐任务中的3组语言对的句对齐任务的实验结果表明:本文提出的无监督双语句子向量化表征方法能有效实现句对齐。(3)基于网页文本的双语平行句对抽取系统及应用。本文构建一个双语平行句对抽取系统,使用句对齐技术从海量互联网网页文本中抽取双语平行句对。本文通过该系统获取双语平行句对并将其应用到神经机器翻译的模型训练中,实验结果表明:通过该系统能有效获取包括低资源领域的双语平行句对,且获取到的平行句对能有效改善神经机器翻译模型的翻译性能。值得注意的是,该系统在获取双语平行句对的过程中构建的语料库还可以用于其它自然语言处理任务上,如双语平行文档的获取等。
其他文献
川木香(Dolomiaea souliei(Franch.)Shih)属于菊科(Compositae)川木香属(Dolomiaea)植物,主要分布于我国四川省。其根部在民间可做传统的中药治疗腹部胀痛和胃部不适,是治疗胃肠疾病
氧化镍(NiO)半导体材料具有优异的电学性能和化学稳定性,在多个领域有潜在应用。作为潜在的传输层材料,高迁移率和电导率的NiO薄膜的制备和性质尤其电学性质还有待进一步研究
红芪(Radix Hedysari)是我国甘肃省的道地性中药材,收载于历代本草黄芪项下,作为黄芪药用的历史深远。1985年中国药典发行后单列为一味中药,始区别于黄芪。现代研究证明红芪化
伴随着文化产业的繁荣发展,越来越多的数字形式的原创内容在线上线下涌现。而目前现有的知识产权保护方法大多是在权威的管理机构进行线下登记,这种方式具有以下缺点:第一是
渔业行政执法承担着保护渔业资源和监督渔业生产行为的重任,是维护法律权威和保障政策落实的重要力量。随着我国渔业经济发展、捕捞能力增强,渔业生产者的需求和渔业资源衰退
目前,核电作为一种高效的清洁能源,被越来越多的国家所接受和采用。中国核电技术的发展经历了引进、消化、吸收和再创新的过程,经过几十年的积累和实践,正逐步实现自主化、国产化,其中自主堆型“华龙一号”借着“一带一路”的东风走出国门,走向世界。在此背景下,核电领域的分析方法、分析手段、分析软件也日益自主化,根据抗震分析的需要,核电结构全时域分析取代频域法正逐步得到广泛应用。其中,地震动载荷是核电抗震分析的
近年来,随着科技的快速发展,工业大规模生产的控制系统日趋复杂,对系统运行时的安全性的要求也越来越高,而故障诊断就是通过对系统信息的采集,通过一定的分析处理,及时发现系
河北省山药种植面积17万余亩,主要分布于保定地区,但是由于连年种植,土传病害发生严重,严重地块发病率高达90%。山药连作障碍的主要病害之一就是山药“糊头”病。山药“糊头”病的发生使山药商品率大大降低,造成山药减产,轻者减产40%-50%,重者绝收。山药“糊头”病害已经成为制约河北山药产业化发展难题。本研究开展了土壤消毒处理防治山药“糊头”病的药效试验,同时研究了土壤消毒处理对土壤环境的影响。结果如
目的探讨体素内不相干运动扩散加权成像(intravoxel incoherent motion diffusion-weighted imaging,IVIM-DWI)、磁共振动态增强(dynamic contrast enhanced MR,DCE-MRI)扫描部分定量参数对前列腺癌(Prostate cancer,PCa)的诊断价值,并组合形成不同扫描方案寻找最佳检查方案。同时结合PI-RAD
研究目的:以24名有训练和无训练的男性大学生为对象,采用60%VO2max强度进行30min的持续跑台运动,研究有训练者和无训练者安静状态与中等强度持续运动状态能量代谢特征,分析有