由于软件产品在社会各领域的应用范围越来越广,软件系统中的缺陷会造成更为广泛和严重的后果,这给软件可靠性保证工作提出了新的挑战。软件测试是最常用的一种保证软件质量和可靠性的重要手段,但目前随着软件复杂度的增长,软件测试过程会花费更大的时间和经济成本。自动化测试是一种有效提高测试效率的方法,但相关技术并不完善。如何在有限的测试资源约束下选择测试用例,尽可能地发现更多的错误,进一步节约测试成本,仍是一个值得研究的课题。本文针对软件系统行为建模困难、测试成本高、测试自动化程度不足的问题展开研究。首先,基于统计测试的思想,充分利用用户使用频率信息指导测试过程,提出了概率扩展有限状态机的形式化模型,并阐述了建模场景和模型构建过程。该模型与传统的马尔科夫使用模型相比,具有更强的模型描述能力,能够描述更为复杂的软件系统。其次,本文提出了基于概率扩展有限状态机模型的测试用例生成方法,对于频繁使用的重要操作增大测试机会,从而实现了测试用例规模的缩减,在保留一定错误探测能力的前提下尽可能地节约测试成本。在该模型中,由于迁移边上存在护卫条件,直接按概率选择迁移会导致大量不可行路径,因此本文以正则表达式作为中间形式生成测试用例,并相应地提出了一系列算法,包括改进的正则表达式转化算法、候选路径集生成、路径可行性分析和测试用例选择算法。为了体现文中方法的实用性,本文针对智能电视测试问题展开实例研究,并研制出相应的具有完整功能的自动化测试工具,证明了本文方法的有效性和实用价值。此外,本文还通过实验与最新的RWADS方法进行对比分析,结果表明本文方法能够有效提升测试用例的错误探测效率。