近年来,神经机器翻译（Neural Machine Translation）取得了极大的成功,不仅仅作为机器翻译的一个全新范式而蓬勃发展,而且已经被应用于许多语言相关的技术中,例如:在线的通用多语翻译系统、同声传译系统、以及实时聊天助手等。标准的神经机器翻译框架由三个重要部件所组成:a)神经网络模型的体系结构（及其所学的内部隐层表示）,b)高效的（且多利用数据增强技术的）序列到序列训练策略,c)用于近似找到最优预测的束状搜索推断策略。尽管神经机器翻译框架已取得不可否认的长足进步,但对研究者和用户而言,该框架却存在诸多难解释性问题,这主要是由框架本身所使用的模型架构十分复杂,且随训练数据增长而使得模型的参数越来越庞大而导致的。神经机器翻译框架的这种难解释性会对未来大规模神经机器翻译系统的研究与部署带来下述两个问题:1)研究人员可能很难解释模型的内在运作机制,使得很难定位与发现模型的缺陷与问题并对框架本身进行改进;2)下游用户可能很难解释模型的推断过程,对模型行为异常没有很好的认识,这使得用户可能不会充分信任翻译系统。本文正是受上述对可解释性在神经机器翻译框架中重要性之讨论的启发而展开的。本文基于该框架的三个组件分别开展了可解释性研究:a)表示的可解释性（Representation Interpretability[RI]）,用于解释复杂模型体系结构中蕴含的隐层表示,b)训练的可解释性（Training Interpretability[TI]）,用于解释模型的数据增强训练策略与无监督训练策略,c)行为的可解释性（Behavior Interpretability[BI]）,用于解释模型推断与模型泛化之间的关系。1.解释与提升神经机器翻译模型的隐层表示[RI]。多层编解码器架构是目前大规模神经机器翻译模型的金标准。现有的一些工作已经探索了解释隐层表示的方法,且主要关注模型编码器表示的解释,然而,模型解码器表示的可解释性却少有工作涉及,且大多数工作并没有依据他们的解释性结论来改进模型的翻译质量。基于“给予解释并提升性能”的目标,本文首先人工构造了一系列所谓的嵌套亲属任务,通过这些亲属任务来衡量解码器各层所学表示的特征泛化能力,验证了解码器各层所学表示的“粗粒度到细粒度”（Coarse-to-Fine）的演化特性。基于上述解释,本文提出了采用全部亲属任务对各层进行表示正则的策略;由于利用全部亲属任务进行表示正则的计算瓶颈,本文进一步设计高效的近似策略,通过选择粗粒度到细粒度的几个具有代表性的亲属任务用于逐层正则。在两个翻译任务上的充分实验证明了上述策略仅仅导致训练计算开销略有提高,且不改变测试计算开销,并相较基线系统而言有（最高达1.3个BLEU值的）一致的性能提升。2.基于与模型泛化能力相关的两个度量,解释神经机器翻译的数据增强训练[TI]。近年来有许多实用的数据增强策略被提出用于模型训练。现有的工作通过模型在特定测试集上的性能好坏来比较不同数据增强策略的优劣,然而本文发现部分数据增强策略在不同的翻译任务或数据上却呈现不一致的性能好坏。基于上述观察,本文尝试去回答如下问题:何种在跨任务、跨数据增强方法上一致的“益处”是数据增强能普遍带给神经机器翻译模型的呢?受到近期深度学习理论研究进展的启发,本文通过两个角度——i)输入的敏感性度量与ii)预测的间隔度量——解释数据增强策略对于模型泛化能力的影响。与依赖于目标端参考译文的BLEU指标相比,上述两个度量均与特定的测试集相关性不高,这使得本文的结论具有相对更小的方差。在四个翻译任务上对五种常用的数据增强方法进行的实验表明了上述二指标相较BLEU指标而言更高的跨任务一致性,可作为衡量数据增强策略的全新内部评价（Intrinsic Evaluation）指标。3.解释神经机器翻译模型的无监督训练[TI]。对神经机器翻译模型的无监督训练近年来受到广泛关注。尽管大量的经验性进展已经达成,然而理论为导向的研究却十分欠缺,因此一些更为本质的问题并没有被很好地探索,例如:为什么某种训练协议能工作?在何种设定下能工作?为此,本文试图对上述问题给出具有理论意义的解释。具体来讲,基于对照研究的思路,本文从两个具有理论背景的角度——i)边际似然最大化与ii)信息论中的互信息——对无监督训练协议的各变体在训练过程中的特性进行了深入的分析。本文的对照研究揭示了一些关于成功进行无监督训练的关键条件,及其他一些有价值的发现。4.通过检测源端上下文屏障来解释神经机器翻译模型的行为[BI]。在机器翻译评价中,传统的性能评估策略往往是在平均意义来衡量模型的泛化能力的,例如语料级别BLEU值。然而,语料级BLEU值这一统计量并不能对模型的泛化能力作出详细的解释与细粒度的分析。为了解决上述问题,本文试图通过定义并检测所谓的“源端上下文屏障”（Source Contextual Barriers）来对神经机器翻译模型的泛化行为进行细粒度的解释。本文提出了源端上下文屏障的原则性定义,并进一步提出该定义一个可计算的、单词级别的修缮版本。该修缮版本利用修改源端词所生成的反事实（Counterfactual）句子级别评价指标值集合,来构造源端单词成为屏障词的风险值。基于该修缮的定义,本文提出三种简易的策略用于估算上述风险值,以检测所谓的源端上下文“屏障词”（Barrier Word）。本文在中-英与英-中的NIST标准数据上进行实验,对检测出的屏障词从词性、源端词范畴、上下文性等维度上进行了细致的分析,并分别定量与定性地讨论了屏障词在译文重排序与人工错误分析中的应用价值。