大数据时代,软件系统规模与应用领域的日益复杂,使得软件动态执行轨迹需要新的处理模式才能成为具有更强决策力与洞察力的信息资产。因此,如何有效地挖掘软件的内在特征,基于软件动态执行轨迹实现其行为特性的建模与算法的研究,成为软件开发质量的基本保障,有助于软件在适用领域的合理应用及发展。本课题利用数据挖掘技术,从海量的软件执行轨迹中挖掘用户感兴趣的行为模式,以适用于广泛的软件安全分析、软件质量评估、软件漏洞挖掘等领域。首先,提出一种基于软件动态执行轨迹的软件执行图的构建方法。基于软件的不同粒度,使用分布函数生成不同粒度下的单元项权重、序列效用值等参数,采用深度优先遍历的方法构建软件执行序列,将每一条序列作为软件的一次函数执行序列,并最终形成软件动态执行序列集合。其次,提出一种基于有希望扩展的高效用序列模式挖掘算法。该算法将软件执行轨迹序列化,设计了表结构Pre-Utility-List用于存储模式的效用信息和索引。为存储长度为2的序列效用值,提出了PEUS结构,并基于此提出一种潜在高效用模式的剪枝策略,有助于模式效用上界值的降低。再次,提出一种基于软件执行图的Top-k高效用路径模式挖掘算法。基于软件执行序列中函数的调用顺序及依赖关系,提出了预插入策略Pre-insertion,以提高初始效用阈值。排序策略Sorting和过滤策略Filtering的使用有助于较早地扩展潜在高效用模式,以提高算法效率。最后,对本文提出的算法用Java语言在Windows平台下进行实现。通过实验分析算法在运行时间、候选集数量、内存使用空间等方面的性能。