近年来,计算机软件的数量呈现爆炸式地增长并且复杂度与体积也在与日俱增。在这样的背景下,软件出现缺陷的概率越来越大,因软件的可靠性及质量问题造成的后果也会随之加大。软件缺陷预测作为保证软件质量一种手段,是通过代码本身蕴含的信息来判断是否有可能存在缺陷,因此采用软件缺陷预测技术不仅能够减少软件开发中潜在的缺陷,还能够帮助测试人员将测试重点放在更有可能存在缺陷的代码上。近年来,学术界涌现出一批研究将如何将人工智能技术与软件缺陷预测领域结合的文章。而此类文章的主流的过程可以概述为将程序代码转换成抽象语法树后输入到神经网络进行缺陷的判断。然而,目前主流的与人工智能技术相结合的软件缺陷预测框架在将抽象语法树输入到神经网络的一步中,给予抽象语法树上不同的节点唯一的实数编码,然后遍历抽象语法树转成向量的表示形式再输入到神经网络以至于影响模型训练的效果。因此,本文提出了一种方法,结合了抽象语法树的特点,把抽象语法树的节点转化成一种向量的表示形式,用以解决不可度量抽象语法树节点之间的语义距离问题。本文的主要工作包括以下三部分:(1)面向抽象语法树的编码方式。在软件缺陷预测邻域引入并改进了连续词袋模型用于对抽象语法树进行编码。该编码方式针对抽象语法树的树状结构做无监督训练,将抽象语法树上的节点表示成向量的形式,节点对应的向量之间的欧氏距离就是节点间的语义距离。(2)面向抽象语法树的编码方式在项目内及跨项目的情况下对于缺陷预测的效果。引入了卷积神经网络作为软件缺陷预测的监督训练模型,同时也引入了迁移学习解决跨项目缺陷预测中遇到的源项目和目标项目之间特征差异较大的问题。(3)面向该抽象语法树编码方式的软件缺陷预测系统设计与实现。该系统接受实际的项目代码作为训练集,然后可给出新版本的项目或目标项目的文件或模块缺陷报告,帮助开发者了解项目的代码缺陷分布。