随着互联网应用的规模化、普及化,以及计算机技术的不断发展,互联网产生的数据正高速增长,可获得的语料库规模也日益增长。研究表明,统计机器翻译系统的翻译质量通常与语料库的大小成正比,即语料库越大,翻译质量越好。然而,随着平行语料库规模的急剧增长,现有的基于单机方式的或传统分布式工具的模型训练方法的效率越来越难以满足大规模机器翻译处理的需要。本文对大规模翻译模型的并行化训练方法、算法与系统进行了研究,在保证不改变原有单机算法训练结果和精度的前提下,提出了对大规模模型训练过程进行并行化优化的一系列方法和算法,旨在有效地提高大规模翻译模型训练的计算性能。首先,本文通过对大规模翻译模型的训练算法进行并行化研究,抽取出两个对大规模训练效率影响至关重要的基础性支撑方法和算法——分布式最大似然估计方法和分布式参数管理机制,并进行了重点研究。对于分布式最大似然估计方法,本文研究提出基于Spark的join操作的并行化算法,该算法实现了良好的数据扩展性。对于分布式参数管理机制,本文基于Spark设计了两种不同的管理方法,一种是基于Broadcast变量传输的共享机制,每个计算节点通过网络传输获得一份参数供所有计算任务共享访问;另一种是基于HDFS的参数共享机制,实现每个计算节点从HDFS中只载入一份参数供所有计算任务共享访问。这两种方法都能稳定地实现分布式的参数加载、访问和更新。在这两个基础支撑算法的基础上,本文研究构建了以下两套分布式训练方法和框架,并在此基础上实现了一系列模型训练方法与算法:(1)分布式EM训练方法与框架:该训练方法与框架通过数据存储与分片优化,实现并提供高效的EM算法训练流程。本文基于此方法与框架研究大规模词对齐训练方法,设计实现了“IBM模型一”和“HMM词对齐模型”的分布式训练算法、以及分布式调用MGIZA++的算法Align_on_MGIZA。(2)分布式翻译模型训练方法与框架:在此基础上,本文实现了大规模短语翻译模型训练算法以及层次短语翻译模型训练算法。最后,本文基于Spark设计实现了并行化模型训练算法,并进一步开发了一套分布式机器翻译模型训练系统——Seal。实验结果表明,Seal中“IBM模型一”和“HMM词对齐模型”训练算法的训练性能相比MapReduce方法提升了 2-5倍,Align_on_MGIZA算法相比MapReduce方法提升了 1-2倍;另外,短语翻译模型和层次短语翻译模型的并行化训练算法的训练性能相比于MapReduce方法分别提高了 2-4倍和5-8倍。Seal提高了大规模机器翻译系统中的模型训练效率,且表现出良好的系统和数据可扩展性,能更好地适应大规模语料库的训练。