随着软件破解技术的发展,人们对应用软件的安全问题越来越重视。代码混淆作为一种重要的代码保护技术,已经广泛应用于软件保护领域。为了确保混淆结果的有效性,对代码混淆进行评估已经成为代码混淆技术应用过程中不可或缺的环节。代码混淆评估一般从强度、弹性、开销和隐蔽性4个方面测量。目前代码混淆评估方法存在评估指标不全面、大样本评估不适应以及评估结果不准确等问题,使得代码混淆评估研究有待提高。在现有的研究基础上,本文提出一种基于监督学习的代码混淆有效性评估模型,并对该模型展开以下工作:针对目前代码混淆评估方法存在评估指标不全面的问题,本文对代码混淆的评估特征提取方面进行了以下改进。现有的评估模型通常采用程序复杂度作为代码混淆强度测量。为了使强度测量更加全面,本文增加了抽象语法树(AST)特征和字节码(BC)特征,并给出提取这两类特征的算法。此外,由于弹性测量工作难度大,现有的评估模型往往缺少了对弹性的评估工作。本文通过反混淆技术完善弹性测量,提出两个新的评估特征,分别是混淆识别率(Obfuscation recognition rate)和反混淆率(De-obfuscation rate),同时参照强度测量,增加了与反混淆代码相关的AST特征和BC特征。对于开销方面的测量,计算了程序编译时间、运行时间和时间复杂度,以及测量了堆、栈等内存空间。对于隐蔽性方面的测量,除了现有的控制流图相似度等传统的测量方法,本文提出使用AST、BC、Token等相似度计算方法,丰富了与隐蔽性相关的评估工作。针对现有的混淆评估模型由于不具备学习能力,导致大样本评估不适应以及评估结果不准确的问题,本文引入监督学习以改进代码混淆评估。对已知混淆评估结果的样本进行自动学习,即通过支持向量机、随机森林、人工神经网络等学习算法,训练出可用于评估未知样本的分类模型。相比于其他评估模型,本模型由于预先学习了一部分样本,在处理大量未知样本时仍能保持较高的准确率。本文从以下三个方面阐述了该评估模型的优势。首先对评估模型进行性能分析实验,在二分类的情况下,本模型的准确率超过99%,在五分类的情况下,准确率达到95%以上。与现有的其他模型作对比,本模型对大样本评估具有较高的准确率。其次,通过若干独立的公开数据集进行交叉检验,验证了本模型具有较强的鲁棒性和适应性。最后,通过测量模型各个阶段的耗时,验证了本模型能够在合理的时间范围内具备完成大批量代码混淆评估工作的能力。