基于Transformer模型的机器翻译可解释性研究

来源 :科学与信息化 | 被引量 : 0次 | 上传用户:ccyyttaa
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
目前而言,神经网络这项技术已经在机器翻译任务中取得了优秀的效果,但由于端到端模型的使用,虽然从翻译性能上看网络模型能够有效对跨语言信息进行捕获,但是对其中语义信息的学习方式始终少有了解,从而导致研究人员很难从外部对模型进行分析和改进.本文通过对目前主流的Transformer神经机器翻译模型方法进行实验,通过对训练得到的词向量进行分析,对神经机器翻译模型的可解释性进行研究.
其他文献
一、引入"囧事吧"网络调查结果师:自从"囧"字在网络中流行开始,与"囧"有关的网站、贴吧,像雨后春笋一样冒了出来。百度贴吧中就有一个"囧事吧",它有一句特别响亮的口号,一起读出来(出示
1999年,陈天桥手持50万元启动基金,在上海浦东新区科学院一个三室一厅的房间里,陈天桥夫妇与弟弟陈大年、谭群钊、瞿海滨开始了盛大之路。
SVG装置具有很多优势特点,根据负荷的变化情况,SVG装置可以动态调节功率因数与自动进行无功补偿。本文对动态无功补偿装置SVG在地铁供电系统的运用进行了深入研究,具有重要意
旅游也需要有人教?相信很多人都不以为然。不过,随着国外自助游的兴起,在异域他乡,面对陌生的语言、人群、文化和环境,如何玩得尽兴开心,听听前辈们的经验总是好的。从如何办护照、
凭借教材,选用可乐瓶、水盆、气球、一次性筷子等生活中随手可得的简易、废旧物品做教具,依据六年级学生知晓的空气相关的科学知识,创设了利于学生观察和表达的学习情景,激活
【情境任务】同学们,老师发现你们中午在食堂吃饭的时候,有挑食的现象.有的同学只爱吃肉,不吃蔬菜;有的同学只吃蔬菜,不爱吃肉;还有的同学只吃一种菜.课前老师对班级的同学做
在倡导多元解读的语文课堂上,经常会出现无视文本、游离文本、舍弃文本、远离文本价值等个性化解读。本文针对当下现象,结合笔者的教学,从初读感悟、品读感悟、实践体验等方面来
降低物质采购成本在企业物资管理中占有重要的地位,可以合理的将采购成本降到最低,对企业的长期发展和竞争力的提升具有重要的意义。因此实行成本管理策略,值得在通信企业中推广
广东益民旅游休闲服务有限公司研发的“国民旅游休闲公共信息服务平台”被市中小企业局认定为“2011年广州市中小企业公共(技术)服务示范平台单位”。
自2008北京奥运会之后,耐克、阿迪达斯等外资运动品牌在短期内增长迅速,但随后也相继陷入库存危机而不能自拔。虽然,现在他们已经从库存危机中走了出来,但新的烦恼又接踵而至