神经机器翻译关键技术研究与应用

来源 :电子科技大学 | 被引量 : 2次 | 上传用户:wwwboy2000
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在如今经济全球化的时代,翻译服务的重要性逐渐体现。相较于人工翻译服务而言,机器翻译的速度更快,更能满足社会的需求。神经机器翻译作为一种利用大规模双语平行语料对神经网络进行训练,从而得到翻译模型的技术,已经成为机器翻译的主流方法,被广泛用于各种语言之间的翻译工作当中。本文以中英神经机器翻译为例,对神经机器翻译的关键技术进行了研究与应用。神经机器翻译通常仅通过平行语料学习翻译知识而忽略了语言本身的先验特征。除此之外,在主流的神经机器翻译模型中,只有最顶层编码器的输出得到了利用,其他的深层信息则被忽略,这也限制了翻译模型的性能。本文为解决以上问题,完成了以下工作:(1)提出了融入多粒度形态特征的中英神经机器翻译模型。中文词语由汉字组成,而汉字能够进一步划分为部件,这些组件的形态特征与词语的语义有着极为密切的联系。本文创新性地提出的基于部件n元组的中文词向量模型能够获取细粒度的形态特征。而粗粒度特征则通过BERT预训练语言模型的词嵌入层获得。在中英神经机器翻译任务中,本文的翻译模型相较于基准模型Transformer提高了0.78的BLEU-4评分。本文提出的中文词向量模型在词向量评测任务中分别取得了88.8与63的最高分,验证了模型提取中文形态特征的能力。(2)提出了基于深层编码器信息的神经机器翻译模型。为了解决在深层翻译模型中解码器仅对最顶层的编码器输出进行解码的问题,本文设计了三种方法使得深层编码器的输出信息也能被模型充分利用,分别为:平行层编码器信息的引入,多层编码器信息的引入,动态深层编码器信息的引入。本文根据三种方法分别训练得到三种基于深层编码器信息的翻译模型,并与基准模型Transformer在中英神经机器翻译任务上进行对比。实验结果表明,本文提出的模型最高比基准模型提高了0.89的BLEU-4评分,验证了本文方法的有效性。(3)基于本文创新点改进的神经机器翻译模型,设计并实现了一个神经机器翻译WEB系统。该系统基于B/S架构,实现了用户交互层,核心服务层及模型处理层,系统的用户界面简洁易用,能够提供准确的机器翻译服务。
其他文献
三百六十行,谁听说了有擦自行车这一行?现代都市中,几乎家家户户都有白行车,这一生意如果弄起来一定不会差。项目概况:现在,大多数人都是自己在家里简单清洁一下自行车,往往是草草处
城市的发展好坏可以通过经济、政治、文化、社会各方面共同呈现出来,从另一方面来说,城市是一个人民群众活动的中心点,城市的社会治理工作是否具备创新意识和严谨的制度对于
近年来,随着全球经济一体化进程和现代技术革命、尤其是信息化技术的快速发展,制造业的全球化趋势正在不断扩张,市场竞争同样愈演愈烈,制造型企业也面临着前所未有的挑战。根
摘要:新制度经济学勉为其难地解释了城乡统筹发展中政府作用和制度变迁的必然性,解释“养儿防老”时总是苍白无力,我们提出“新制度经济学与反按揭谁解释了谁”的疑问,说明新制度经济学是不自恰的。  关键词:反按揭;社会目标;和谐社会;新制度经济学     当城乡统筹改革方兴未艾时,人们对于养儿防老的担忧有所下降,但城乡统筹并没有消除对房价急剧上升的恐惧,于是,人们对养儿防老的担忧突增。究竟怎样解释城乡统筹
高校办学规模的迅速扩大,使校内人员聚集,校舍众多。如何通过高校物业管理服务企业的管理创新,提高其管理服务的时效性,是个值得研究的问题。本文从高校物业管理服务企业创新
随着国企改革和法制建设的推进,国家所有权的本质属性问题受到了法学界和管理学界的普遍关注并形成了各种观点。从国家所有权的来源、主体与价值来看,国家所有权应当是一种公共
摘要:三峡库区中小企业发展是库区发展的关键,中小企业文化建设是企业发展的灵魂,三峡库区中小企业要实现可持续发展就必须铸造适合自己的企业文化,以文化促发展。笔者通过走访调查库区部分中小企业,分析概括了库区中小企业文化建设要遵循的基本原则,总结了目前库区中小企业形成的四种基本企业文化模式,对库区中小企业文化建设具有一定的现实意义。  关键词:三峡库区;中小企业;文化模式    一、三峡库区中小企业文化
东亚地区特别是日本、韩国和中国台湾地区都面临相当严峻人口少子化问题,但与韩台依然保持超低生育率水平相比,日本出生率有所回升,摆脱超低生育水平。低生育率的出现是经济
法庭解述话语现象作为一种会话机制,表达机构权力的同时又加强权力运作,形成了其独特的话语生成机制。基于法庭互动会话中解述现象的真实语料,对法庭解述话语现象的生成机制
你没有关注并不代表事情没有发生,你觉得这件事情不重要,并不代表它没有在人群里产生影响力。在移动时代,一个月就是传统的半年,一个月你不知道这件事情,半年就过去了,所有的