软件测试是一种重要的软件质量保障方法,通过检查待测软件在给定测试用例下运行的输出结果是否符合预期来检测潜藏的故障。测试用例的预期结果难以获取或获取的代价很高（即测试预期问题）是软件测试领域一直难以解决的开放问题之一。随着软件的功能日趋复杂和规模不断增大,测试预期问题不仅存在且愈加严重。蜕变测试通过检查待测软件多个不同测试用例的输出结果是否满足给定的必要属性（称为蜕变关系）来判断测试是否通过,有效缓解了测试预期问题。近年来,蜕变测试领域的研究工作主要关注如何使用蜕变测试解决不同领域软件的测试预期问题。然而,蜕变测试本身一些基础理论问题尚未有效解决,具体说来:（1）蜕变关系是蜕变测试的核心与关键,尚不存在通用、高效的蜕变关系识别方法;（2）缺乏蜕变测试充分性准则与度量方法来指导蜕变关系与测试用例的选择,从而难以确定蜕变测试的停止条件;.（3）缺乏蜕变测试的优先级排序方法来调度蜕变关系与测试用例的执行次序,从而限制了蜕变测试的故障检测效率进一步提高。本文旨在探索蜕变测试的基础理论问题,重点研究蜕变关系的通用、高效的识别方法、蜕变测试的充分性准则与度量方法、基于优先级排序的蜕变测试优化策略等关键理论和方法。本文主要工作总结如下:（1）针对蜕变关系的通用、高效识别问题,提出了一种基于范畴选项框架且考虑输出域的蜕变关系识别方法METRIC+。该方法利用范畴选项框架划分软件的输入输出域,并基于范畴、选项及完整测试帧等概念刻画不同分区的特征;在此基础上,通过联合利用输入域与输出域中不同分区的特征指导测试人员获取软件在不同的输入及其输出上满足的必要属性,实现准确高效的蜕变关系识别。开发了 METRIC+的支持工具MR-GEN+。采用4个不同领域的真实软件系统评估了 METRIC+的有效性与效率。实验结果表明,METRIC+与基准技术相比具有较高的蜕变关系识别正确率和效率,且识别的蜕变关系具有较高的故障检测能力。（2）针对蜕变测试的充分性评估问题,提出了适用于蜕变测试的k输出子关系覆盖准则及测试充分性度量方法。该准则拓展了传统的测试充分性准则,不仅涵盖了原始测试用例,还涵盖了蜕变关系以及蜕变关系与原始测试用例的关联关系。基于该充分性准则设计了测试充分性度量方法,用来量化蜕变测试的充分程度。上述充分性准则与度量方法为蜕变关系与原始测试用例的选择提供了指导原则。采用不同应用领域、不同语言实现的7个软件系统和5种测试用例充分性准则评估了所提充分性准则与度量方法的有效性。实验结果表明,当蜕变关系集与原始测试用例集具有较高测试充分程度时,蜕变测试表现出较强的故障检测能力;此外充分性准则实验还发现了广泛研究的实验软件中一个至今尚未发现的真实故障。（3）为进一步提高蜕变测试的故障检测效率,提出了一种蜕变关系与测试用例协同的优先级排序方法。该方法基于测试用例对测试充分性的贡献程度、测试过程中结果判定时机、蜕变关系中输出子关系的严格程度,确定蜕变关系和测试用例的优先次序;在此基础上,调度蜕变关系和测试用例的执行次序,使得具有较高故障检测可能性的蜕变关系和测试用例优先使用。采用7个实验软件和2个基准技术评估了优先级排序方法的故障检测效率和时间开销。实验结果表明,与随机排序和仅考虑蜕变关系排序的基准方法相比,本文方法能更快地检出故障;本文方法以较小的时间开销加快了蜕变测试故障揭示速度。