编译器作为重要的系统软件,是构建其他软件的核心基础设施之一。典型的编译器可被分为前端、中端、以及后端三个组件,分别完成高级语言处理、代码优化、以及目标代码生成的功能。然而,编译器作为一类软件,同样不可避免会出现缺陷。这些缺陷不仅降低了编译器自身的可靠性,也给被编译的软件带来一定的风险,甚至造成灾难。因此,保证编译器的质量是一项至关重要的任务。编译器测试是保证编译器质量的重要方法之一,其通过生成复杂的测试程序来检测编译器缺陷。近些年,在编译器测试领域虽然已有很多测试程序生成技术被提出,但是这些技术仍然不能很好地生成组件特定且多样化的测试程序。如何生成触发编译器缺陷的测试程序在编译器测试中仍然是亟待解决的关键问题。因此,针对编译器的不同组件,本文尝试从测试程序生成的角度研究生成式测试方法,从而更好地保证编译器的质量。本文的研究工作主要包含三个方面内容,分别是编译器前端警告测试、编译器前端错误恢复测试、以及编译器中后端正确性测试。首先,为了能高效地发现编译器前端警告缺陷,本文提出了一种基于多样性引导的编译器前端警告测试方法。其次,为了确保编译器前端错误恢复机制的正确性,本文提出了一种基于遗传算法的编译器前端错误恢复测试方法。最后,为了保证编译器优化与翻译的正确性,本文提出了一种基于深度学习的编译器中后端正确性测试方法。具体来说,本文的主要研究内容如下:（1）基于多样性引导的编译器前端警告测试方法。通过分析编译器警告机制的特点,该方法解决警告测试中的两个挑战:警告敏感结构构造和多样化的测试程序生成。为了解决这两个挑战,本文首先设计了63个变异算子对种子程序的抽象语法树进行变异,从而构造警告敏感结构;然后采用马尔可夫蒙特卡洛方法来引导每个变异算子的选择,从而生成多样化的测试程序。在GCC和LLVM编译器上的实验结果表明,相较于现有领先方法,该方法能有效提升18.93%~76.74%的警告缺陷检测效率,并在实践中检测到编译器开发版本前端存在的8个真实警告缺陷。（2）基于遗传算法的编译器前端错误恢复测试方法。为了检测编译器前端错误恢复的缺陷,该方法主要解决编译器前端错误恢复测试中的两个挑战:多样化测试程序构造和错误恢复缺陷检测。为了解决第一个挑战,本文针对语法有效的种子程序设计了129个变异算子,然后采用遗传算法对不同变异算子进行组合,从而生成多样化的测试程序。为了解决第二个挑战,本文基于差分测试提出了一种编译器前端错误恢复诊断对齐算法。在GCC和LLVM编译器上的实验结果表明,该方法比已有方法能够有效地提升19.08%~43.08%的编译器错误恢复缺陷检测效率,并在实践中检测到编译器开发版本前端存在的9个真实错误恢复缺陷。（3）基于深度学习的编译器中后端正确性测试方法。为了提高编译器中后端测试的效率,该方法解决编译器中后端测试中存在的两个挑战:有效且多样化的测试程序构造。首先,为了构造有效的测试程序,本文基于Transformer-XL神经网络模型提出一种高效的测试程序构造方法。其次,为了构造多样化的测试程序,本文提出一种基于历史概率的采样策略,从而保证测试程序生成的多样化。在GCC和LLVM编译器上进行实验,相较于现有领先方法,该方法能显著提高35.29%~187.50%的编译器中后端测试效率,并在实践中检测到编译器开发版本的中后端存在的22个正确性缺陷。本文针对编译器前端、中后端不同组件提出了三种有效的缺陷检测方法,并在实践中取得了较好的效果,有助于开发者更好地检测编译器不同组件的缺陷,进一步提高编译器的可靠性。