【摘 要】
：
Google Brain提出了一种用于神经机器翻译(NMT)的简单模型Transformer,该模型完全基于注意力机制,避免使用循环神经网路(RNN),解决了RNN无法并行化的问题.本文在Transformer
【基金项目】
：
2017年辽宁省科技厅博士科研启动基金指导计划项目(20170520276)资助
论文部分内容阅读
Google Brain提出了一种用于神经机器翻译(NMT)的简单模型Transformer,该模型完全基于注意力机制,避免使用循环神经网路(RNN),解决了RNN无法并行化的问题.本文在Transformer模型的基础上提出了基于词级权重(Word-Level Weights)的模型改进方法,即根据不同单词在句子中的重要性通过神经网络自学习所获得相应的权重,将此权重与Transformer模型相结合.该方法提高了Transformer模型的稳定性和准确性,并在IWSLT16翻译任务中提高了模型的BLEU得分.
其他文献
活动目标：1．喜欢探索，体验用凸透镜、凹透镜、平面透镜观察事物的乐趣。2．能够在活动中发现不同镜片的特征及作用，并用语言表达自己的发现。3尝试用绘画的方式记录观察到的现象，能
建立高质量的企业内部控制规范体系,有助于提升企业内部管理水平和风险防范能力,促进现代企业的竞争力.铁路企业作为我国经济运行的大动脉,其发展对国计民生有着深远的影响.
[目的]总结CT引导下125I粒子植入治疗复发性盆腔恶性肿瘤病人的护理。[方法]对32例(36个病灶)复发性盆腔恶性肿瘤病人行CT引导下125I放射性粒子植入术,同时加强心理护理、术
在经济社会发展的过程中,宣传工作要唱出时代的主旋律,吹响经济发展的号角,充分发挥思想保障、精神力量和舆论支持的作用。积极开展丰富多彩、影响深远的宣传活动,为县域经济
[原诗] 鲁山①早行 梅尧臣 适与野情惬②,千山高复低.好峰随处改③,幽径④独行迷. 霜落熊升树⑤,林空鹿饮溪.人家在何许⑥?云外一声鸡.……
在我国社保水平不断提高的形势下,社保基金规模逐步扩大,对于社保基金管理也提出了更高的要求。本文针对社保基金管理,首先分析了社保基金的特点以及当前社保基金管理方面存
用金相显微镜、SEM、TEM、X 射线衍射仪对高碳铬轴承钢滚动轴承在不同负荷下快速试验后的变态显微组织进行分析研究,结果表明,在滚道表面下0.07～0.35mm 范围内,有四种变态组织
<正> 人类的认识具有全方位性,它不仅指向外部自然物,也指向社会客体和自身。对这些不同类型的对象,人们的认识有不同的具体方式和方法,有不同的活动过程和发展规律。社会认识论作为关于人们如何认识社会的学说,以人们认识社会的认识活动为对象,,考察其特殊的活动结构、活动方式、认识方法、进化过程和特殊规律,
以武汉市88块高产蔬菜地块为对象,通过调查分析其周围环境、土壤结构、地下水位和土壤理化性状,总结出了高产蔬菜地块的土壤肥力基本特征,以期为武汉新建菜地的建设提供参考
邓小平十分重视报刊工作在革命、建设和改革中的作用,他不仅身体力行的参加过办报实践,而且对做好报刊工作做出了一系列精辟的论述,形成了比较系统的思想。这一思想不仅是对